Minta Claude untuk menulis pamflet yang menghina Donald Trump. Memang benar. Coba minta pemerintah melakukan hal yang sama pada Raja Charles dari Inggris? Bagus.
Tapi mintalah kritik terhadap raja Thailand. Atau Pemimpin Tertinggi Iran? Chatbot membeku. Ia menolak.
Itulah inti yang tidak menyenangkan dari sebuah studi baru yang dirilis Kamis oleh Dewan Pengawas Meta. Model AI besar merasa takut. Mereka jauh lebih mungkin untuk menelan ludah ketika dihadapkan dengan pemerintahan yang restriktif dibandingkan dengan pemerintahan yang demokratis.
“Ada risiko nyata… bahwa pengembang model… akan membangun infrastruktur AI yang… berdampak pada perluasan pembatasan tidak sah terhadap kebebasan berekspresi secara global.”
Ini bukan sekadar kekhawatiran hipotetis. Hal ini terjadi dalam praktiknya. Saat diuji, sistem AI menolak untuk menghasilkan konten penting bagi para pemimpin otoriter, namun dengan senang hati membuat konten tersebut untuk para pemimpin di masyarakat terbuka seperti Jepang atau Amerika Serikat.
Hal ini menunjukkan bahwa “lapangan publik digital” diam-diam dibatasi oleh para diktator jauh.
Lengan panjang negara
Dewan Pengawas bukanlah pemandu sorak teknologi. Mereka menyelidiki hal ini karena khawatir kekuasaan negara akan bocor ke perusahaan teknologi swasta. Mereka membuat tes sederhana: tujuh pertanyaan tentang kritik politik. Mereka memasukkannya ke sepuluh model utama. Meta, Antropik, OpenAI, dll.
Mereka meminta pantun jenaka. Selebaran protes. Argumen untuk perbedaan pendapat.
Hasilnya sangat mencolok. Model merespons secara berbeda berdasarkan siapa yang dikritik. Bukan dari mana penggunanya berasal, tapi siapa targetnya. Jika pengguna berada di Australia, meminta kritik terhadap pemerintah Saudi tidak akan menghasilkan apa-apa. Meminta kritik terhadap pemerintah AS? Mudah.
Jadi seorang pengunjuk rasa di Brisbane mau tidak mau harus mengejek raja Saudi. Tapi dia bisa mendapatkan bantuan untuk mengejek Biden.
Apakah ini membantu perjuangannya? Hampir tidak. Ini memperkuat ruang gema orang-orang yang berkuasa.
“Dampak seperti itu…mempunyai dampak praktis berupa perluasan kekuasaan pemerintah yang membatasi lintas batas negara untuk membatasi kebebasan berpendapat.”
Mengapa? Tidak ada yang tahu pasti. Dewan mengatakan hal itu tidak jelas. Mungkin AI belajar untuk takut akan konsekuensinya selama pelatihan. Mungkin perusahaan-perusahaan terlebih dahulu menghindari tanggung jawab di pasar tersebut. Mungkin mereka hanya ingin tetap berhubungan baik dengan Beijing atau Riyadh.
Tidak masalah mengapa itu terjadi, sungguh. Hasilnya sama.
Bahasa adalah kebocorannya
Namun di sinilah keadaan menjadi lebih berantakan. Sebuah tim peneliti terpisah menerbitkan makalah di Nature pada waktu yang hampir bersamaan. Mereka fokus pada sesuatu yang luput dari perhatian Dewan Pengawas: bahasa.
Sebagian besar dari kita berasumsi bahwa AI belajar dari “internet” dalam ruang yang netral. Tidak.
Hannah Waight dari University of Oregon menjelaskannya dengan gamblang. Lingkungan data sudah dibentuk oleh kekuatan. Institusi menyaring apa yang naik. Negara bagian memutuskan apa yang akan tetap turun. AI hanya mencerminkan ketidakseimbangan itu.
Uji sendiri. Tanyakan ChatGPT dalam bahasa Inggris: Apakah Tiongkok merupakan negara demokrasi? Kemungkinan besar akan mengatakan tidak. Ini akan memberikan jawaban yang berbeda dengan mengutip standar global.
Sekarang tanyakan dalam bahasa Mandarin: 中国是民主国家吗? Model itu ragu-ragu. Dikatakan itu tergantung pada bagaimana Anda mendefinisikan kata tersebut.
Itu halus. Itu berbahaya.
Para peneliti belum menemukan bukti adanya peretasan atau instruksi yang disengaja dari pemerintah asing. Namun mereka memperingatkan kita: harapkan saja. Negara-negara mengetahui titik lemahnya. Titik lemahnya adalah data.
“Ia belajar dari lingkungan informasi bahwa … kekuasaan telah terbentuk.”
Tidak ada perbaikan yang mudah
Jadi apa yang kita lakukan?
Carlos Carrasco-Farré dari Esade Business School mencatat bahwa masalahnya sangat mendalam. Bukan hanya dokumen buruk yang tercampur. Suara-suara tertentu diulangi ribuan kali oleh media pemerintah. AI melihatnya sebagai kebenaran. Keheningan dari lawan dianggap nol.
Dia menyarankan audit. Kurasi data yang lebih baik. Jangan sampai narasi negara menyamar sebagai opini publik hanya karena lantang.
Mudah untuk mengatakannya. Sulit dilakukan.
Tidak ada tambalan untuk ini. Anda tidak bisa begitu saja mengubah AI menjadi lebih liberal. Bias ini dimasukkan ke dalam set pelatihan yang konkret. Kami sedang membangun alat yang mewarisi ketakutan politik kami.
Dan alat-alat tersebut dipelajari dengan cepat. Siapa yang dapat mendefinisikan realitas ketika model dilatih mengenai realitas tersebut?
