Seorang wanita Tennessee, Angela Lipps, menghabiskan lebih dari lima bulan penjara setelah dikaitkan secara palsu dengan kasus penipuan bank di North Dakota melalui teknologi pengenalan wajah. Insiden ini menyoroti meningkatnya kekhawatiran mengenai keakuratan dan pengawasan kecerdasan buatan (AI) dalam penegakan hukum.
Kasus: Salah Identitas
Lipps ditangkap di negara bagian asalnya dan diangkut ke North Dakota, tempat yang belum pernah dia kunjungi, hanya berdasarkan pertandingan yang digerakkan oleh AI. Menurut Lipps, dia tidak siap menghadapi cuaca dingin di Fargo ketika dibebaskan pada Malam Natal setelah dakwaan dibatalkan.
“Saya mengenakan pakaian musim panas, tanpa mantel – di luar sangat dingin, salju di tanah – takut, saya ingin keluar, tetapi saya tidak tahu apa yang akan saya lakukan, bagaimana saya akan pulang,” kata Lipps dalam sebuah wawancara dengan WDAY, sebuah stasiun televisi Fargo.
Polisi Mengakui Kesalahan, Tapi Berhenti Meminta Maaf
Kepala Polisi Fargo David Zibolski mengakui “salah langkah” dalam menangani kasus ini, dengan menyatakan bahwa departemen tersebut telah merevisi kebijakan AI-nya. Namun, dia menolak meminta maaf secara langsung kepada Lipps, meski Lipps berencana mengajukan gugatan.
“Kami dengan senang hati mengakui ketika kami melakukan kesalahan, dan kami pasti melakukan beberapa kesalahan dalam kasus ini,” kata Zibolski pada konferensi pers. “Kami tentu saja meminta maaf atas dampak apa pun, atau dampak buruk, yang ditimbulkan terhadap kepercayaan masyarakat.”
Masalahnya: AI sebagai Bukti Tunggal
Pengacara Lipps, Jay Greenwood, menyebut kasus ini sebagai “kisah peringatan” tentang ketergantungan pada AI dan pengenalan wajah tanpa verifikasi yang tepat. Pihak berwenang di Dakota Utara tidak melakukan langkah investigasi tambahan – seperti wawancara dengan Lipps atau rekannya – untuk mengonfirmasi kecocokan yang dihasilkan oleh AI.
“Mereka mengandalkan teknologi pengenalan wajah tetapi tidak melakukan upaya lain untuk menguatkan identifikasi tersebut,” kata Greenwood melalui email.
Kasus ini menimbulkan pertanyaan serius mengenai proses hukum dan potensi kesalahan keadilan ketika AI digunakan sebagai bukti utama dalam investigasi kriminal.
Insiden ini menggarisbawahi perlunya pengawasan yang kuat, peninjauan oleh manusia, dan verifikasi independen sebelum penegak hukum mengambil tindakan terhadap petunjuk yang dihasilkan AI.
Pemenjaraan Angela Lipps yang tidak sah merupakan pengingat bahwa penerapan AI yang tidak terkendali dapat menimbulkan konsekuensi buruk bagi individu dan mengikis kepercayaan publik terhadap sistem peradilan.
