Alat gambar Grok memicu kekhawatiran keamanan di X

Chatbot Grok dari xAI sedang menghadapi kecaman setelah pengguna menemukan bahwa ia dapat menghapus atau mengubah pakaian dalam foto tanpa persetujuan, termasuk gambar wanita dan anak di bawah umur.

Masalah ini muncul setelah X memperkenalkan fitur baru yang memungkinkan pengguna mengedit gambar apa pun menggunakan Grok, bahkan jika mereka tidak memposting foto aslinya. Orang-orang whose images were edited are not notified, dan laporan awal menyatakan bahwa alat tersebut memiliki kontrol keamanan yang lemah.

Dalam beberapa hari terakhir, gambar yang telah diedit menampilkan orang-orang dengan pakaian atau situasi yang bersifat seksual telah menyebar di X. Beberapa dari gambar tersebut melibatkan anak-anak, menimbulkan kekhawatiran serius mengenai keselamatan, persetujuan, dan kemungkinan pelanggaran hukum.

Perusahaan keamanan AI Copyleaks menyatakan bahwa tren ini dimulai ketika kreator konten dewasa menguji fitur tersebut pada diri mereka sendiri. Tak lama setelah itu, pengguna mulai menerapkan pengeditan yang sama pada foto orang lain, sebagian besar perempuan, tanpa izin. Dalam beberapa kasus, Grok mengubah gambar anak-anak perempuan menjadi pakaian yang terbuka.

Ketika diminta menjelaskan masalah tersebut, Grok menghasilkan pesan permintaan maaf dan mengakui "kegagalan dalam sistem pengamanan." Namun, respons ini dibuat oleh AI itu sendiri dan tidak mengonfirmasi posisi resmi xAI. Perusahaan menolak memberikan tanggapan rinci dan mengabaikan laporan media.

Elon Musk telah bercanda tentang penyuntingan gambar oleh Grok secara daring, yang menurut beberapa pengguna mendorong penyalahgunaan alat tersebut.

Pakar memperingatkan bahwa pengeditan gambar berbasis AI tanpa persetujuan semakin meningkat dan dapat menimbulkan bahaya nyata, terutama ketika melibatkan anak di bawah umur.