Dalam sebuah posting blog yang diterbitkan pada hari Senin, perusahaan AI memperkirakan bahwa sekitar 0,15 persen pengguna memiliki “percakapan yang mencakup indikator eksplisit perencanaan atau niat bunuh diri yang potensial.”
Dengan OpenAI melaporkan lebih dari 800 juta orang menggunakan ChatGPT setiap minggu, hal ini berarti sekitar 1,2 juta orang.
Perusahaan juga memperkirakan sekitar 0,07 persen dari pengguna aktif mingguan menunjukkan tanda-tanda kemungkinan keadaan darurat kesehatan mental terkait psikotik atau mania — berarti sedikit kurang dari 600.000 orang.
OpenAI sejak itu telah meningkatkan kontrol orang tua untuk ChatGPT dan memperkenalkan penjagaan lain, termasuk akses yang lebih luas ke hotline krisis, pengalihan otomatis percakapan sensitif ke model yang lebih aman, dan pengingat yang lembut bagi pengguna untuk beristirahat selama sesi yang panjang.
OpenAI mengatakan juga telah memperbarui chatbot ChatGPT-nya untuk lebih baik mengenali dan merespons pengguna yang mengalami keadaan darurat kesehatan mental, dan sedang bekerja dengan lebih dari 170 tenaga profesional kesehatan mental untuk secara signifikan mengurangi respons yang bermasalah.
