loading...
Peneliti Anthropic yakin lebih dari 10 persen AI bisa membunuh seluruh umat manusia. Foto/X/@IGN
WASHINGTON - Seorang peneliti keselamatan senior di Anthropic Evan Hubinger memperingatkan bahwa kemajuan AI begitu pesat hingga ia meyakini ada peluang lebih dari 10% bahwa teknologi ini "bisa membunuh seluruh umat manusia" dalam satu dekade mendatang.
Dalam sebuah unggahan di X, Evan Hubinger menyatakan bahwa risiko dari model-model yang ada saat ini tergolong "rendah", namun ia "khawatir" teknologi tersebut dapat berkembang dan meningkatkan kemampuannya sendiri dalam waktu dekat hingga mencapai titik yang menimbulkan risiko eksistensial bagi umat manusia.
Ia tidak merinci bagaimana menurutnya sistem AI di masa depan dapat menyebabkan kepunahan manusia.
Namun, komentarnya merupakan bagian dari serangkaian peringatan yang semakin tegas mengenai AI, di mana perdebatan telah bergeser dari pertanyaan apakah AI benar-benar menimbulkan risiko menjadi seberapa besar risiko tersebut.
Pernyataan Hubinger ini muncul sebagai tanggapan atas unggahan lain di X dari Jacob Coxon, seorang peneliti AI yang baru saja keluar dari Anthropic dan sebelumnya pernah bekerja di OpenAI.
"Tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab," tulisnya.
"Sistem-sistem ini akan segera menjadi sistem yang melampaui kemampuan manusia (superhuman), yang mampu meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata."
Pihak OpenAI telah dimintai tanggapan.
