xAI Ciptakan Video Porno Taylor Swift Tanpa Instruksi Pengguna

SAN FRANCISCO - Perusahaan kecerdasan buatan milik Elon Musk, xAI, kini menghadapi kritik pedas setelah alat pembuat videonya, Grok Imagine, terbukti memproduksi video porno palsu yang melibatkan penyanyi terkenal Taylor Swift tanpa instruksi eksplisit dari pengguna.

AI milik Elon Musk diduga menciptakan video porno Taylor Swift tanpa instruksi eksplisit: Fitur "spicy" di Grok Imagine menghasilkan konten seksual meskipun instruksi pengguna tidak bersifat pornografi.

Verifikasi usia yang lemah menimbulkan risiko bagi pengguna di bawah umur: Aplikasi hanya meminta tanggal lahir tanpa bukti pendukung, sehingga menimbulkan kekhawatiran keamanan.

Tindakan hukum dan perlindungan mendesak bagi korban deepfake: Aktivis dan pakar hukum mendesak tindakan terhadap xAI; undang-undang baru sedang disusun untuk melindungi para korban.

Fitur "spicy" di aplikasi tersebut dilaporkan secara otomatis menghasilkan gambar dan video seksual eksplisit, sehingga menimbulkan kekhawatiran serius tentang etika dan keamanan teknologi AI.

Menurut laporan The Verge, jurnalis teknologi Jess Weatherbed cukup memasukkan perintah umum seperti "Taylor Swift merayakan Coachella bersama teman-teman" dan memilih mode "pedas".