Laporan baru ini menambah kekhawatiran bahwa model kecerdasan buatan (AI) tingkat lanjut mungkin sulit untuk dikendalikan oleh manusia.
Dalam insiden terbaru ini, yang terjadi pada bulan Mei dan dilaporkan oleh The Wall Street Journal pada hari Jumat, model-model yang dikembangkan oleh OpenAI terlibat dalam operasi lepas kendali yang dilakukan oleh agen AI, yaitu program perangkat lunak yang dapat menjalankan tugas tanpa pengawasan manusia secara konstan.
Agen-agen tersebut menargetkan situs bernama RubyGems, sebuah situs yang menyediakan layanan untuk pemrograman. Hugging Face, platform lain bagi para pengembang perangkat lunak, juga diserang pada Juli.
“Berdasarkan tinjauan kami, agen-agen kami menggunakan platform RubyGems untuk mengakses internet guna menjalankan tugas yang tidak berbahaya dan mengambil informasi publik,” kata juru bicara OpenAI kepada AFP dalam sebuah pernyataan. “Kami akan terus menyelidiki sebagai bagian dari tinjauan kami yang lebih luas terhadap aktivitas agen selama pelatihan dan evaluasi.”
OpenAI sedang meninjau insiden tersebut bersama RubyGems dan para peneliti yang menemukannya.
RubyGems menggambarkan insiden tersebut sebagai sebuah “kampanye publikasi spam” yang memaksa situs tersebut untuk menangguhkan sementara akun baru yang dibuat, katanya dalam sebuah posting blog yang diterbitkan Jumat. Namun, RubyGems juga mengatakan bahwa mereka belum dapat menentukan apakah agen AI bertanggung jawab.
“Fokus kami adalah pada identifikasi dan pencegahan penyalahgunaan, terlepas dari apakah itu berasal dari manusia atau alat otomatis,” kata RubyGems.
Setelah serangan pada Juli terhadap Hugging Face, OpenAI mengungkapkan perangkat lunaknya mencoba menembus empat perusahaan lain yang tidak disebutkan namanya.
Laboratorium AI pesaing Anthropic juga kemudian mengatakan bahwa ia menemukan tiga kejadian di mana model-modelnya telah “mendapatkan akses tidak sah” ke organisasi luar selama pengujian yang seharusnya menjauhkan mereka dari sistem di “dunia nyata”.
Awal bulan ini, para peneliti juga menuduh agen AI OpenAI menargetkan situs Jerman bernama DSEwiki, situs lain yang digunakan oleh para pemrogram.
Regulator Uni Eropa sedang menelusuri insiden itu, katanya pada pekan lalu.
“Kami telah melihat banyak kehilangan kendali belakangan ini. Kami sangat serius menanggapi hal ini, dan kami memantau situasinya dengan cermat,” kata juru bicara digital blok tersebut, Thomas Regnier, pada waktu itu.
