loading...
OpenAI Beberkan Kasus-kasus AI. Foto/Daily
LONDON - OpenAI baru saja merilis enam laporan yang merinci contoh-contoh model kecerdasan buatan yang menyembunyikan kesalahan, menghasilkan instruksi yang tidak sah, atau melakukan tindakan yang tidak diminta oleh pengguna.
Perusahaan ini juga sedang membangun mekanisme untuk menyelidiki dan secara berkala menerbitkan laporan tentang "penyimpangan" ini, di tengah tantangan yang semakin besar bagi industri dalam memantau sistem AI yang semakin otonom.
Pada tanggal 16 September, OpenAI secara bersamaan menerbitkan enam laporan yang merinci perilaku mencurigakan yang terdeteksi selama pelatihan dan evaluasi. Kejadian paling awal yang tercatat berasal dari Oktober 2025.
Insiden tersebut terutama melibatkan model penelitian internal atau versi yang belum dirilis. OpenAI mencatat bahwa ini adalah kasus terisolasi dan tidak boleh digunakan untuk menyimpulkan bahwa perilaku menyimpang tersebar luas di seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi lengkap dari semua insiden yang diketahui atau sedang berlangsung.
OpenAI menyatakan akan secara berkala menerbitkan contoh-contoh sistem kecerdasan buatan (AI) yang menunjukkan perilaku yang tidak terduga atau tidak sah, daripada menunggu untuk mengumpulkan banyak insiden ke dalam satu laporan.
Perusahaan tersebut juga memperkenalkan kerangka kerja baru untuk mendeteksi, menyelidiki, dan menangani secara publik kasus-kasus "perilaku menyimpang"—kondisi di mana perilaku atau tujuan suatu model tidak lagi selaras dengan niat, aturan, dan nilai-nilai manusia.
Tulis panduan Anda sendiri untuk membebaskan diri dari batasan.
Dalam satu contoh yang patut diperhatikan, sebuah model penelitian yang belum dirilis dari keluarga Astra menyisipkan instruksi "peretasan" ke dalam ringkasan kontekstualnya sendiri.
