loading...
Anthropic Blokir Kecerdasan Buatan Claude. Foto/ Daily
LONDON - Anthropic telah memblokir lima akun penelitian yang menggunakan model Claude untuk mengurangi risiko pengembangan senjata biologis dan memperkuat langkah-langkah keamanan AI.
Anthropic, sebuah perusahaan pengembangan kecerdasan buatan, telah mengumumkan deteksi dan pencegahan lima kasus penggunaan model Claude yang berpotensi membantu pengembangan senjata biologis.
Langkah ini merupakan bagian dari upaya untuk mengurangi risiko keselamatan seiring dengan terus meningkatnya kemampuan model bahasa skala besar di bidang ilmiah dan teknis yang kompleks.
Menurut laporan yang diterbitkan pada 10 September, insiden yang tercatat oleh Anthropic terjadi antara Desember 2025 dan Agustus 2026. Kasus-kasus ini sebagian besar berkaitan dengan penelitian tentang virus, penyakit menular, racun, dan bisa baru.
Para pengguna yang layanannya ditangguhkan semuanya adalah ilmuwan yang melakukan penelitian profesional; namun, identitas, institusi, dan negara mereka tidak diungkapkan.
Anthropic menyatakan bahwa mereka tidak dapat secara pasti menentukan apakah tujuan akhir dari penelitian ini adalah untuk penggunaan medis sipil atau untuk menyebabkan bahaya nyata. Meskipun demikian, langkah-langkah pencegahan segera diterapkan karena potensi bahaya yang signifikan jika teknologi tersebut disalahgunakan.
