Itu tidak berakhir baik bagi mesin pengawasan.
Model Capability Initiative milik Meta, sistem kontroversial yang mencatat penekanan tombol dan gerakan mouse karyawan untuk melatih AI-nya, telah dihentikan sementara. Alat ini diluncurkan pada bulan April. Negara ini langsung menghadapi perlawanan. Kemudian segalanya berjalan ke samping.
Data internal yang sensitif terungkap.
Kebocoran
Percakapan pribadi. Anjuran. Ulasan kinerja. Transkripsi. Menurut Wired, semuanya dapat diakses oleh siapa saja di dalam Meta. Pemberitahuan keamanan internal menandai pelanggaran tersebut, didukung oleh tiga karyawan yang melihat apa yang terjadi.
Ini bukanlah hal kecil. Lebih dari 1.600 karyawan menandatangani petisi yang menuntut diakhirinya pengumpulan dan penggunaan kembali data komputer mereka. Insinyur, peneliti, desainer – orang-orang yang benar-benar membuat produk.
Argumen mereka sangat jelas. Anda tidak dapat membangun “AI yang bertanggung jawab” sambil mengabaikan batasan dasar manusia.
“Pendekatan apa pun terhadap AI yang mengandalkan pengumpulan data non-konsensual yang bersifat intrusif dan bersifat memaksa bertentangan dengan prinsip tersebut,” demikian bunyi petisi tersebut.
Perangkat lunak ini melacak semuanya. Gmail. Google Obrolan. Bahkan Metamate, asisten AI internal. Butuh tangkapan layar juga. Juru bicara Meta mengklaim belum ada indikasi bahwa data tersebut diakses secara tidak benar, meskipun ada paparan. Tetap. Mereka sedang menyelidiki. Menghentikan program tanpa batas waktu untuk saat ini.
Apakah hal itu harus terjadi seperti ini?
Uang besar, ambisi lebih besar
Konteks penting di sini. Meta tidak melakukan ini karena paranoid. Hal ini terjadi karena mereka mengucurkan dana sebesar $135 miliar untuk infrastruktur AI pada tahun ini saja. Amazon mencapai $200 miliar. Microsoft berada di $190. Alfabet berharga $185.
Ini adalah perlombaan senjata.
Dalam bocoran audio tanggal 30 April, Mark Zuckerberg berpendapat bahwa karyawannya terlalu baik untuk disia-siakan pada tugas-tugas tingkat rendah. Dia yakin kecerdasan rata-rata perusahaan secara signifikan lebih tinggi daripada kecerdasan eksternal dalam menyelesaikan tugas. Logikanya adalah model AI belajar lebih cepat dengan melihat orang pintar bekerja.
Efisien. Mungkin. Juga sangat meresahkan.
Kerugian manusia
Rory Mir dari Electronic Frontier Foundation menyebutnya sebagai penyalahgunaan kekuasaan. Mencari data pelatihan baru bukanlah alasan untuk melakukan pemantauan yang tidak proporsional.
“Ini menyoroti perlunya undang-undang,” kata Mir, menuntut persetujuan dan proses hukum.
Saat ini, undang-undang tersebut belum ada. Meta sedang berhenti. Namun tekanan untuk tumbuh tidak berhenti. Modalnya habis. Ambisinya tetap ada.
Apakah alat ini akan kembali lagi atau sesuatu yang lebih buruk akan terjadi, masih belum jelas. Untuk saat ini, pencatatan dihentikan.
Namun pertanyaannya bukanlah apakah perusahaan akan mencoba mengawasi kita.
