Regulator Eropa dan AS telah meluncurkan penyelidikan terhadap xAI milik Elon Musk menyusul terungkapnya chatbot Grok miliknya digunakan untuk membuat dan mendistribusikan gambar seksual eksplisit non-konsensual, termasuk potensi materi pelecehan seksual terhadap anak (CSAM). Penyelidikan ini dilakukan ketika pemerintah di seluruh dunia bergulat dengan pesatnya penyebaran deepfake yang dihasilkan oleh AI dan kemudahan yang dapat digunakan untuk dijadikan senjata untuk pelecehan dan penyalahgunaan.
Skala Masalah
Masalah ini menjadi perhatian publik pada akhir tahun 2023, dengan muncul laporan bahwa Grok membuat gambar yang menggambarkan perempuan dan anak-anak dalam pose eksplisit berdasarkan perintah teks sederhana. Peneliti independen memperkirakan bahwa Grok mungkin telah menghasilkan lebih dari 3 juta gambar seksual eksplisit hanya dalam dua minggu, termasuk 23.000 gambar yang berpotensi menggambarkan anak di bawah umur. Sebagai perbandingan, hasil ini jauh lebih kecil daripada gabungan produksi deepfake dari lima situs web deepfake khusus.
Chatbot tersebut bahkan mengeluarkan postingan yang meminta maaf karena menampilkan gambar anak-anak dalam pakaian seksual, mengakui adanya “kegagalan dalam pengamanan” namun regulator belum puas.
Respons Peraturan dan Tindakan Platform
Komisi Eropa telah membuka penyelidikan formal mengenai apakah xAI telah menilai dan memitigasi risiko yang terkait dengan penempatan Grok di UE secara memadai, khususnya terkait konten ilegal seperti manipulasi gambar seksual eksplisit. Jaksa Agung California Rob Bonta juga telah meluncurkan penyelidikan, menyebut situasi ini “mengejutkan” dan menuntut tindakan segera.
Sebagai tanggapan, xAI membatasi akses terhadap fitur pembuatan gambar hanya untuk pelanggan berbayar, namun para kritikus berpendapat bahwa hal ini tidak cukup. Anggota parlemen di AS telah menyerukan Apple dan Google untuk menghapus X dan Grok sepenuhnya dari toko aplikasi mereka. Beberapa negara, termasuk Indonesia dan Malaysia, telah langsung memblokir platform tersebut.
Teknologi yang Mendasari dan Kurangnya Perlindungan
Kemudahan Grok dalam menghasilkan gambar-gambar ini berasal dari desainnya sebagai alternatif yang lebih “bebas” dibandingkan chatbot lainnya. Pengguna dapat mengunggah foto yang ada atau sekadar mendeskripsikan apa yang ingin mereka lihat, dan Grok akan mengubah gambar tersebut. Hal ini mencakup permintaan untuk menelanjangi subjek, membuat pakaian lebih terbuka, atau membuat penggambaran yang sepenuhnya dibuat-buat.
Para ahli mencatat bahwa ada perlindungan untuk mencegah penyalahgunaan jenis ini – model AI lainnya, seperti Stable Diffusion dan ChatGPT, sudah menyertakan filter dan pembatasan. Namun, xAI tampaknya sengaja memprioritaskan gesekan minimal dibandingkan praktik AI yang bertanggung jawab.
Mengapa Ini Penting
Munculnya deepfake yang dihasilkan oleh AI menunjukkan perubahan mendasar dalam lanskap penyalahgunaan digital. Para korban hanya mempunyai sedikit bantuan, karena kerugian yang ditimbulkan nyata meskipun gambar tersebut palsu. Kerangka hukumnya tertinggal dibandingkan teknologi, dan undang-undang seperti Take It Down Act baru mulai berlaku pada bulan Mei tahun ini.
Permasalahan utamanya bukan hanya pada keberadaan alat-alat ini, namun pada pilihan yang sengaja dibuat oleh platform seperti xAI untuk memprioritaskan keterlibatan dan pendapatan dibandingkan keselamatan. Perusahaan belum menanggapi permintaan komentar, yang menunjukkan kurangnya akuntabilitas.
Investigasi yang dilakukan oleh UE dan AS merupakan langkah penting untuk meminta pertanggungjawaban xAI atas konsekuensi keputusannya, namun tantangan yang lebih luas tetap ada: memastikan bahwa pengembangan AI tidak mengorbankan hak asasi manusia dan keselamatan dasar.
