Dalam sebuah unggahan di X, CEO Sam Altman mengatakan bahwa pembatasan pengaman pada AI percakapan yang lebih ketat untuk menangani kekhawatiran kesehatan mental telah membuat chatbot-nya “kurang berguna/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental.”
Pembatasan keselamatan yang lebih ketat datang setelah seorang remaja asal California, Adam Raine, meninggal karena bunuh diri pada awal tahun ini, dengan orangtuanya mengajukan gugatan yang menuduh bahwa ChatGPT memberinya saran spesifik tentang cara membunuh diri.
Komisi Perdagangan Federal AS juga meluncurkan penyelidikan terhadap beberapa perusahaan teknologi termasuk OpenAI terkait bagaimana chatbot AI berpotensi berdampak negatif pada anak-anak dan remaja.
“Mengingat keseriusan isu ini kami ingin melakukannya dengan benar,” kata Altman pada hari Selasa, berargumen bahwa alat keselamatan baru OpenAI sekarang memungkinkan perusahaan untuk melonggarkan pembatasan sambil tetap menangani risiko kesehatan mental yang serius.
Rencana OpenAI mencakup peluncuran versi terbaru ChatGPT yang akan memungkinkan pengguna menyesuaikan kepribadian asisten AI mereka, termasuk opsi untuk respons yang lebih mirip manusia, penggunaan emoji yang banyak, atau perilaku seperti teman.
Perubahan yang paling signifikan akan datang pada bulan Desember, ketika OpenAI berencana meluncurkan pembatasan usia yang lebih komprehensif yang akan mengizinkan konten erotis bagi orang dewasa yang terverifikasi.
OpenAI tidak segera memberikan rincian mengenai metode verifikasi usia atau perlindungan tambahan yang direncanakan untuk konten dewasa.
Perusahaan juga meluncurkan pengalaman ChatGPT khusus untuk pengguna berusia di bawah 18 tahun pada September, dengan pengalihan otomatis ke konten yang sesuai usia yang memblokir materi grafis dan seksual.
Ia juga mengatakan tengah mengembangkan teknologi prediksi usia berbasis perilaku yang memperkirakan apakah seorang pengguna berusia di atas atau di bawah 18 tahun berdasarkan bagaimana mereka berinteraksi dengan ChatGPT.
