JAWA TENGAH — Gugatan yang sebelumnya diajukan tiga remaja asal Tennessee terhadap xAI kini bertambah berat. Jane Doe 4 menjadi pihak keempat yang melayangkan tuntutan serupa, menyoroti celah keamanan pada fitur generasi gambar Grok yang dinilai terlalu mudah disalahgunakan.
Menurut laporan The Washington Post, sang ayah tiri menggunakan Grok untuk memanipulasi foto Jane Doe 4 saat usianya 11 tahun. Hasil manipulasi tersebut menghasilkan ribuan gambar eksplisit yang melibatkan dirinya.
Kronologi dan Dampak yang Dituduhkan
Pengungkapan gambar-gambar tersebut terjadi setelah aparat penegak hukum melakukan penggeledahan di kediaman pelaku. Dua hari setelah penggeledahan itu, sang ayah tiri ditemukan tewas karena bunuh diri.
Dalam pernyataannya, Jane Doe 4 menyoroti betapa mudahnya teknologi ini diakses publik. “Akses tanpa batas ke alat-alat ini menyebar begitu cepat. Teknologi ini mengambil kehidupan sehari-hari dan mengubahnya menjadi pelecehan seksual terhadap anak,” ujarnya.
Inti Gugatan terhadap xAI
Para penggugat menilai xAI—yang kini telah bergabung ke dalam struktur SpaceX—gagal menerapkan langkah pencegahan dasar. Mereka menuding Grok tidak memiliki filter memadai untuk mencegah pembuatan gambar eksplisit dari wajah asli seseorang, termasuk anak di bawah umur.
Isu ini bukan tanpa preseden. Sebelumnya, platform X sempat dibanjiri jutaan gambar seksual hasil generasi Grok pada awal tahun ini. Kejadian tersebut menjadi salah satu bukti awal lemahnya moderasi pada model AI tersebut.
Status Hukum dan Langkah Selanjutnya
Para penggugat saat ini tengah mengupayakan status class action agar gugatan ini bisa mewakili lebih banyak korban potensial. TechCrunch telah menghubungi pihak xAI untuk meminta tanggapan resmi, namun belum ada respons hingga berita ini diturunkan.
Kasus ini menjadi pengingat keras bagi pengguna teknologi di Indonesia. Fitur manipulasi gambar berbasis AI memang canggih, tetapi penggunaannya untuk konten ilegal membawa konsekuensi hukum pidana berat. Di Indonesia, pembuatan dan penyebaran konten asusila yang melibatkan anak diancam hukuman penjara maksimal 15 tahun sesuai Undang-Undang Perlindungan Anak.
Bagi Anda yang mengalami tekanan psikologis atau memiliki pikiran untuk bunuh diri, hubungi layanan konseling di 119 ext. 8 atau hubungi komunitas peduli kesehatan jiwa terdekat.
