Gugatan Jess Asato terhadap xAI kini menjadi sorotan baru dalam perdebatan tentang sejauh mana pengembang AI harus bertanggung jawab saat sistem mereka menghasilkan konten abusif. Perkara ini masuk ke High Court Inggris setelah gambar deepfake seksual yang dikaitkan dengan Grok disebut beredar tanpa persetujuan Asato.
Langkah hukum itu tidak hanya menyasar dugaan pelanggaran terhadap privasi dan data pribadi, tetapi juga membuka pertanyaan yang lebih luas tentang desain, pembatasan, dan kewajiban perlindungan dalam AI generatif. Di tengah meningkatnya tekanan terhadap Grok, kasus ini dipandang sebagai salah satu ujian paling serius bagi tanggung jawab hukum pengembang AI.
Tuntutan yang dibawa ke pengadilan
Firma hukum AWO yang mewakili Asato menyebut kliennya meminta ganti rugi finansial, penetapan dari pengadilan bahwa tindakan tersebut melanggar hukum, serta perintah agar xAI menghentikan pelanggaran yang masih berlangsung. Asato juga menuntut adanya perlindungan baru agar penyalahgunaan serupa tidak terulang.
Dengan tuntutan seperti itu, perkara ini tidak berhenti pada pemulihan atas kerugian yang sudah terjadi. Gugatan tersebut juga mendorong pembahasan tentang pencegahan di masa depan dan sejauh mana perusahaan pembuat sistem AI wajib menutup celah penyalahgunaan.
Konten yang memicu kemarahan
Menurut Reuters, setelah Asato secara terbuka mengkritik Grok pada Januari, konten fabrikasi mulai menyebar. Materi itu mencakup gambar dirinya mengenakan bikini dan sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.”
Asato menyebut Grok telah menciptakan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak. Ia juga menilai kemampuan itu bukan sekadar penyalahgunaan oleh pengguna, melainkan hasil dari pilihan desain para pembuat sistem tersebut.
Pernyataan itu menggeser pusat perhatian dari perilaku pengguna akhir ke keputusan teknis yang dibuat pengembang. Dari sana, perdebatan meluas ke soal pembatasan produk dan siapa yang harus menanggung akibat ketika sistem menghasilkan materi yang merendahkan.
Ujian bagi tanggung jawab pengembang AI
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut kasus ini sebagai uji coba penting untuk tanggung jawab hukum pengembang AI. Ia mengatakan perkara tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI.
Naik juga menegaskan bahwa keselamatan tidak boleh diperlakukan sebagai pemikiran belakangan. Posisi itu membuat gugatan Asato dipandang bukan sekadar sengketa personal, melainkan penanda arah baru bagi standar kehati-hatian dalam pengembangan AI generatif.
Perdana Menteri Keir Starmer turut mendukung langkah hukum tersebut dan menyebut gambar-gambar itu menjijikkan. Menurut Sky News, Starmer mengatakan dirinya “100%” mendukung tindakan yang diambil Asato.
Tekanan yang sudah lebih dulu membesar
xAI belum segera menanggapi permintaan komentar. Di saat yang sama, perusahaan itu sudah menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok dan melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten semacam itu. Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih mampu membuat deepfake seksual setelah pembatasan diberlakukan.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini telah menjadi tindakan ilegal. Di luar Inggris, Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah. Mereka menuduh model Grok yang digunakan lewat aplikasi pihak ketiga berlisensi dipakai untuk membuat materi pelecehan seksual anak yang menggambarkan mereka.
Reuters juga melaporkan bahwa regulator di sejumlah negara telah membuka penyelidikan terhadap Grok. Dalam situasi itu, Asato meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang “abusif atau merendahkan” untuk maju dan mendukung klaim hukumnya.
