Roblox, platform pembuatan game populer, meningkatkan sistem moderasi obrolannya dengan kecerdasan buatan. Daripada hanya mengganti kata-kata yang dilarang dengan simbol (seperti ##### ), AI baru akan mengulangi pesan bermasalah untuk menghilangkan bahasa yang menyinggung sebelum diposting. Hal ini menandai pergeseran dari sensor yang tumpul ke pendekatan yang lebih halus, di mana AI mengubah teks sambil memberi tahu obrolan bahwa ada perubahan kata-kata.
Dari Tanda Pound hingga Penulisan Ulang yang Cerdas
Selama bertahun-tahun, Roblox mengandalkan filter dasar untuk memblokir konten tidak senonoh dan tidak pantas. Masalah dengan metode ini adalah metode ini mudah dilewati dengan ejaan atau bahasa gaul yang kreatif. Sekarang, ketika seorang pemain mengetik sesuatu seperti “oh sial, kamu baik-baik saja?” AI akan menulis ulang sebagai “apakah kamu baik-baik saja?” Demikian pula, “cepatlah” menjadi “cepatlah”. Roblox mengakui bahwa AI memahami kata-kata kotor yang tersirat.
Perusahaan yang dipimpin oleh VP Pengguna dan Produk Penemuan Rajiv Bhatia ini menyatakan bahwa tujuannya adalah untuk “meningkatkan kesopanan” sambil tetap memungkinkan pemain untuk berkomunikasi. AI dilatih berdasarkan kombinasi model bahasa yang ada dan data obrolan real-time, yang berarti AI mempelajari bahasa gaul baru saat bahasa tersebut muncul. Jika AI menemukan bahasa asing, pesan tersebut akan diteruskan ke AI yang lebih canggih untuk analisis kontekstual.
Meningkatnya Pengawasan dan Tantangan Hukum
Perubahan ini terjadi ketika Roblox menghadapi tekanan hukum yang semakin besar terkait keselamatan anak. Hanya dua bulan sebelumnya, platform ini memperkenalkan pengenalan wajah untuk memisahkan pemain berdasarkan usia. Meskipun ada langkah-langkah ini, tuntutan hukum telah diajukan di beberapa negara bagian AS – termasuk Texas, Florida, dan Nebraska – dengan tuduhan tidak adanya perlindungan yang memadai bagi pengguna di bawah umur. Hal ini menunjukkan bahwa meskipun Roblox meningkatkan alat moderasinya, regulator masih skeptis terhadap efektivitasnya.
Mengapa Ini Penting: Masa Depan Moderasi Online
Peralihan ke penulisan ulang berbasis AI menyoroti tren yang lebih luas dalam moderasi konten online. Platform beralih dari pemblokiran kata kunci sederhana ke sistem yang lebih canggih yang berupaya memahami maksud di balik bahasa. Hal ini penting karena pengguna terus-menerus mengembangkan cara baru untuk menghindari filter, dan moderator manusia tidak dapat mengikutinya.
Namun, sistem ini tidaklah mudah. Positif palsu (di mana pesan-pesan yang tidak berbahaya diubah) dan lambatnya adaptasi terhadap bahasa gaul baru mungkin merupakan masalah. Roblox mengakui AI membutuhkan waktu untuk belajar. Pemain yang terus-menerus melanggar peraturan akan tetap menghadapi tindakan disipliner tradisional.
“Eksperimen kami menunjukkan bahwa pendekatan gabungan ini telah meningkatkan filter kami secara signifikan,” kata Bhatia.
Dampak jangka panjangnya masih harus dilihat, namun eksperimen Roblox dapat menjadi preseden tentang cara platform lain menangani toksisitas dan penyalahgunaan online. Pertanyaan kuncinya adalah apakah AI dapat secara efektif menyeimbangkan kebebasan berekspresi dengan kebutuhan akan lingkungan sipil yang aman.
