Perusahaan media sosial membayar sejumlah besar uang dan menghadapi ribuan gugatan atas tuduhan bahwa mereka membahayakan pengguna muda, sementara pemerintah di seluruh dunia bekerja untuk membatasi akses anak-anak ke platform mereka.
Reuters tahun lalu secara eksklusif melaporkan sebuah dokumen kebijakan internal Meta yang menyatakan bot percakapannya bisa “menggandeng anak dalam percakapan yang romantis atau sensual,” yang mengakibatkan penyelidikan kongres. Meski begitu, regulasi belum mampu mengejar kecepatan perkembangan AI yang luar biasa.
“Kita mendapati diri kita dalam situasi yang benar-benar mengerikan dalam hal apa yang dilakukan AI terhadap anak-anak,” kata Tom Siegel, mantan wakil presiden kepercayaan dan keselamatan di Google, kepada Reuters. “Gagasan bahwa industri ini akan menyelesaikannya sendiri tanpa bantuan luar terlalu tidak realistis.”
Kekhawatiran Siegel mencerminkan ketakutan yang berkembang di antara beberapa orang dalam industri teknologi dan peneliti akademik bahwa AI menimbulkan ancaman yang lebih dalam bagi anak-anak dibandingkan media sosial, pada saat industri ini berlomba menambahkan fitur-fitur yang semakin canggih pada chatbot yang digunakan jutaan remaja setiap hari.
Siegel mengumumkan pada hari Selasa bahwa ia telah bergabung dengan Common Sense Media, sebuah kelompok advokasi online untuk anak-anak. Organisasi nirlaba, didirikan pada 2003, melakukan riset dan meninjau kecocokan berbagai media untuk anak-anak. Pada bulan Mei, ia meluncurkan Youth AI Safety Institute, sebuah organisasi riset untuk menilai penggunaan AI oleh anak-anak, di mana Siegel akan menjabat sebagai direktur eksekutif pertama.
Anthropic dan OpenAI Foundation, organisasi nirlaba yang mengendalikan OpenAI, termasuk di antara para penyokong institut tersebut.
Siegel mengatakan ia berencana mengembangkan standar yang akan membuat perusahaan AI bertanggung jawab, dan berharap melakukannya dengan bekerja bersama perusahaan-perusahaan tersebut dan kelompok pihak ketiga.
Ia sebelumnya bekerja di Google dari 2004 hingga 2019, tetapi keluar setelah menyimpulkan bahwa industri teknologi sedang “stagnan” dalam kemampuannya menciptakan ruang online yang aman bagi konsumen. Ia kemudian mendirikan TrustLab, sebuah startup yang membangun alat untuk membantu perusahaan mendeteksi ancaman keselamatan, sebelum mundur sebagai CEO pada awal bulan ini untuk mengambil posisi barunya.
Seperti yang terjadi sekarang, perusahaan-perusahaan AI besar meluncurkan fasilitas untuk anak-anak tanpa menetapkan pagar pengaman yang cukup, kata Siegel.
“Saya pikir kita sedang melihat skenario bahaya yang sangat, sangat berat,” katanya.
Dia menyarankan bahwa perusahaan-perusahaan tersebut memiliki langkah-langkah segera yang bisa diambil untuk melindungi pemuda dengan lebih baik, mengutip risiko mulai dari bunuh diri dan psikos hingga offloading kognitif, sebuah istilah yang menggambarkan penurunan kemampuan berpikir kritis karena mengandalkan AI untuk menjawab pertanyaan.
Anthropic dan OpenAI bisa menegakkan langkah verifikasi usia yang lebih kuat untuk menghentikan anak-anak di bawah umur mengakses chatbot mereka, katanya. Mantan majikannya Google bisa dengan mudah menerapkan opsi untuk mematikan AI Overviews dan AI Mode di mesin pencarinya, tambahnya, dengan cara yang sama seperti yang sudah memiliki tombol geser yang memungkinkan pengguna menyaring konten yang secara seksual eksplisit.
Sementara langkah-langkah ini bisa mempengaruhi penggunaan atau keuntungan dalam jangka pendek, perusahaan AI yang tidak bertindak akan menghadapi risiko gugatan dan regulasi yang bisa berdampak lebih besar pada bisnis mereka, tambah Siegel.
Diminta menanggapi komentar Siegel, seorang juru bicara Google mengatakan bahwa orang tua memiliki kendali untuk sepenuhnya mematikan akses anak ke mesin pencari tersebut. “Fitur AI Search kami adalah cara yang sangat berguna bagi anak-anak dan remaja untuk belajar, menjelajah dan memahami informasi serta dunia,” ujar juru bicara itu.
Setelah publikasi awal cerita ini, Google menambahkan dalam pernyataannya bahwa alat AI-nya menjalani proses pengujian dan evaluasi yang “ketat” yang berfokus pada isu-isu keselamatan anak.
Seorang juru bicara OpenAI mengatakan perusahaan menggunakan “sinyal akun dan perilaku” selain usia yang dilaporkan sendiri untuk mengidentifikasi pengguna di bawah umur. “Meskipun tidak ada satu metode verifikasi usia yang sempurna, kami terus menguji dan meningkatkan sistem ini, termasuk terhadap upaya untuk melewati perlindungan.”
Anthropic tidak segera menanggapi permintaan komentar.
Di Common Sense Media, Siegel mengatakan prioritas utama adalah memperluas standar independen yang serupa dengan uji tabrakan mobil yang akan mengukur risiko alat AI yang tersedia untuk umum. Efektivitas langkah tersebut akan bergantung sebagian pada kesediaan perusahaan AI untuk berkolaborasi, kemungkinan mana yang menurut Siegel tidak pasti, tetapi cukup tinggi baginya untuk menerima pekerjaan tersebut.
