Žena z Tennessee Angela Lipps strávila více než pět měsíců ve vězení poté, co byla falešně spojena s případem bankovního podvodu v Severní Dakotě prostřednictvím technologie rozpoznávání obličeje. Případ poukazuje na rostoucí obavy o přesnost a kontrolu umělé inteligence (AI) při vymáhání práva.
Případ: Chybná identifikace
Lippsová byla zatčena ve svém domovském státě a převezena do Severní Dakoty, místa, které nikdy nenavštívila, pouze na základě zápasu s umělou inteligencí. Lippsová řekla, že nebyla připravena na chladné počasí ve Fargu, když byla na Štědrý den po stažení obvinění propuštěna.
“Měl jsem na sobě letní oblečení, žádný kabát – venku byla taková zima, na zemi sníh – bál jsem se, chtěl jsem odejít, ale nevěděl jsem, co mám dělat, jak se dostat domů,” řekl Lipps televizní stanici WDAY se sídlem ve Fargo.
Policie přiznala chyby, ale neomluvila se
Policejní náčelník Fargo David Zibolski uznal „chyby“ při řešení případu a uvedl, že oddělení od té doby revidovalo svou politiku AI. Odmítl se však Lippsové přímo omluvit, navzdory jejím plánům žalovat.
“Rádi přiznáváme, když děláme chyby, a v tomto případě jsme jich určitě pár udělali,” řekl Zibolski na tiskové konferenci. “Určitě se omlouváme za jakýkoli dopad nebo negativní dopad, který to mělo na důvěru v komunitu.”
Problém: AI jako jediný důkaz
Lippsův právník Jay Greenwood nazval případ „opatrným příběhem“ o spoléhání se na umělou inteligenci a rozpoznávání obličeje bez řádné prověrky. Úřady Severní Dakoty nepodnikly další vyšetřovací kroky – jako je rozhovor s Lippsovou nebo jejími známými – aby potvrdily shodu identifikovanou AI.
“Spoléhali na technologii rozpoznávání obličeje, ale nevyvinuli žádné další úsilí, aby tuto identifikaci potvrdili,” uvedl Greenwood v e-mailu.
Případ vyvolává vážné otázky ohledně řádného procesu a možnosti justičních omylů, když je AI používána jako klíčový důkaz při vyšetřování trestných činů.
Tento incident zdůrazňuje potřebu důkladného dohledu, kontroly člověkem a nezávislého ověřování předtím, než orgány činné v trestním řízení zareagují na tipy generované AI.
Neoprávněné uvěznění Angely Lippsové je jasnou připomínkou toho, že nekontrolované používání umělé inteligence může mít pro jednotlivce zničující následky a podkopat důvěru veřejnosti v soudní systém.
