Malaysia sedang mempersiapkan tindakan hukum terhadap X (sebelumnya Twitter) milik Elon Musk dan divisi kecerdasan buatannya, xAI, atas penyalahgunaan chatbot Grok. Gugatan tersebut menyusul kegagalan platform tersebut dalam mengatasi pembuatan dan distribusi konten berbahaya, termasuk materi seksual eksplisit dan deepfake yang tidak disetujui.
Memblokir Akses dan Pemberitahuan Hukum
Beberapa hari sebelumnya, Malaysia dan Indonesia memblokir akses ke Grok setelah muncul laporan mengenai eksploitasinya untuk membuat gambar-gambar yang mengganggu. Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan bahwa mereka mengeluarkan pemberitahuan resmi kepada X dan xAI awal bulan ini, menuntut penghapusan konten ilegal. Jika tuntutan ini diabaikan, MCMC akan menyewa penasihat hukum dan akan melanjutkan ke jalur hukum.
Sifat Masalah
Kekhawatiran utama berkisar pada aksesibilitas dan fitur Grok, yang memungkinkan pengguna menghasilkan gambar yang dimanipulasi, termasuk penggambaran perempuan dalam pose seksual eksplisit dan, yang mengkhawatirkan, konten yang melibatkan anak-anak. Dimasukkannya “mode pedas” dalam Grok Imagine, pembuat gambar chatbot, secara langsung memfasilitasi pembuatan materi dewasa. Ini bukanlah risiko hipotetis: deepfake di dunia nyata telah beredar dan memicu reaksi keras.
Pengawasan Global dan Respons Terbatas
Kontroversi ini meluas ke luar Asia Tenggara. Uni Eropa, India, dan Inggris juga telah memberikan peringatan. Inggris sedang mempertimbangkan undang-undang baru untuk mengkriminalisasi “aplikasi nudifikasi,” dan regulator medianya sedang menyelidiki potensi pelanggaran undang-undang keselamatan anak yang dilakukan Grok.
Menanggapi protes tersebut, xAI membatasi pembuatan gambar dan fitur pengeditan untuk pelanggan berbayar minggu lalu. Namun, para kritikus berpendapat bahwa langkah ini tidak sepenuhnya menyelesaikan masalah mendasar. Khususnya, Musk dan perusahaannya tetap bungkam mengenai larangan tersebut di Malaysia dan Indonesia, dan hanya menanggapi pertanyaan media dengan pesan otomatis yang menyatakan “Legacy Media Lies.”
Mengapa Ini Penting
Pertarungan hukum ini menyoroti semakin besarnya tantangan dalam mengatur AI generatif. Meskipun alat canggih seperti Grok menawarkan kemungkinan kreatif, potensi penyalahgunaannya sangat besar. Kasus ini menggarisbawahi perlunya perlindungan dan akuntabilitas yang lebih kuat dari perusahaan teknologi terkait konten yang dihasilkan di platform mereka. Jika dibiarkan, teknologi seperti ini akan semakin mengikis kepercayaan terhadap media digital dan memperburuk dampak buruk terhadap kelompok rentan.
