Kanalindependen.id — Perusahaan kecerdasan buatan milik Elon Musk, xAI, kembali menghadapi persoalan hukum. Kali ini, perusahaan tersebut dituding menggunakan materi pelecehan seksual terhadap anak (child sexual abuse material/CSAM) dalam proses pelatihan model kecerdasan buatan Grok.
Tuduhan tersebut tercantum dalam gugatan class action yang diajukan seorang perempuan menggunakan nama Jane Doe ke Pengadilan Federal Distrik Utara California pada 26 Agustus 2026.
Penggugat mengklaim gambar dirinya saat masih anak-anak telah digunakan untuk membuat materi pelecehan seksual berbasis kecerdasan buatan. Materi tersebut kemudian disebut muncul kembali dalam bentuk gambar yang dihasilkan Grok.
Yang membuat perkara ini semakin serius, gugatan tidak hanya mempersoalkan kemampuan Grok menghasilkan konten ilegal. xAI juga dituding menggunakan materi tersebut sebagai bagian dari data yang dipakai untuk melatih atau meningkatkan model AI.
Gambar Masa Kecil Korban Diduga Muncul Kembali
Dalam dokumen gugatan, Jane Doe menyatakan dirinya menjadi korban kekerasan seksual ketika masih kecil. Materi yang menampilkan dirinya kemudian disebut beredar di internet.
Sejumlah organisasi perlindungan anak dilaporkan telah menggunakan sistem pencocokan hash untuk membantu mengidentifikasi dan menghapus salinan materi tersebut dari berbagai platform.
Namun, menurut gugatan, sebuah organisasi perlindungan anak di Kanada kemudian menemukan gambar yang dihasilkan AI melalui platform xAI yang disebut menampilkan Doe.
Temuan tersebut disebut kembali menimbulkan trauma bagi korban.
Gugatan juga menguraikan dugaan percakapan di forum daring mengenai penggunaan Grok untuk membuat gambar berbasis identitas korban dan korban lain yang sebelumnya telah menjadi korban materi pelecehan seksual anak.
Data Pelatihan Grok Ikut Dipersoalkan
Persoalan utama dalam gugatan tersebut tidak berhenti pada keluaran Grok.
Penggugat mempertanyakan bagaimana data yang digunakan untuk melatih dan meningkatkan model AI xAI diperoleh serta bagaimana perusahaan menangani materi ilegal yang masuk ke dalam sistem.
Gugatan menyoroti kemungkinan konten yang diunggah pengguna atau dihasilkan Grok kembali digunakan dalam proses pengembangan model.
Kondisi tersebut memunculkan kekhawatiran mengenai siklus data. Materi bermasalah dapat muncul sebagai keluaran AI, kemudian berpotensi masuk kembali ke dalam sistem pengembangan apabila tidak disaring secara efektif.
Namun, dokumen gugatan tidak secara rinci membuktikan mekanisme teknis yang disebut memungkinkan materi tersebut masuk ke dataset pelatihan Grok.
Karena itu, tuduhan penggunaan CSAM sebagai data pelatihan masih merupakan klaim penggugat dalam proses hukum, bukan fakta yang telah diputus pengadilan.
Kontroversi Grok Bukan Pertama Kali
Gugatan terbaru tersebut muncul di tengah serangkaian persoalan hukum yang berkaitan dengan kemampuan Grok menghasilkan konten seksual berbasis gambar orang nyata.
Pada Juli 2026, xAI juga menggugat seorang pengguna yang dituduh memanfaatkan Grok untuk menghasilkan materi pelecehan seksual anak.
Dalam perkara tersebut, xAI menyatakan pengguna telah melanggar ketentuan penggunaan layanan dan berupaya melewati sistem pengamanan yang diterapkan perusahaan.
Pada periode yang sama, xAI juga menghadapi persoalan hukum terkait regulasi mengenai teknologi nudification dan konten seksual hasil AI.
Rangkaian perkara itu membuat perhatian terhadap Grok tidak hanya tertuju pada perilaku penggunanya. Sistem moderasi, desain produk, sumber data pelatihan, hingga tanggung jawab pengembang AI ikut menjadi sorotan.
Korban Minta xAI Bertanggung Jawab
Dalam gugatan terbaru, Jane Doe meminta perkara tersebut diproses sebagai class action untuk mewakili korban lain yang gambar masa kecilnya diduga digunakan dalam pembuatan materi seksual melalui Grok.
Penggugat juga meminta ganti rugi serta perintah pengadilan agar xAI menghentikan pembuatan materi ilegal dan memusnahkan materi tersebut apabila masih tersimpan dalam sistem perusahaan.
Gugatan turut mendasarkan tuntutannya pada hukum federal Amerika Serikat terkait materi pornografi anak serta ketentuan hukum negara bagian yang memberikan hak kepada korban untuk menuntut pihak yang dianggap bertanggung jawab.
Hingga kini, tuduhan tersebut masih berada dalam proses hukum. Belum ada putusan pengadilan yang menyatakan xAI terbukti menggunakan materi pelecehan seksual anak untuk melatih Grok.
Kasus ini kembali membuka pertanyaan besar mengenai batas tanggung jawab perusahaan AI: ketika sebuah model menghasilkan konten ilegal, apakah persoalannya berhenti pada pengguna, atau juga menyentuh desain sistem, mekanisme pengamanan, dan data yang digunakan untuk melatih model tersebut? (***)
