Angela Lipps, mieszkanka Tennessee, spędziła ponad pięć miesięcy w więzieniu po tym, jak została fałszywie powiązana ze sprawą oszustwa bankowego w Północnej Dakocie za pomocą technologii rozpoznawania twarzy. Sprawa ta podkreśla rosnące obawy dotyczące dokładności i kontroli sztucznej inteligencji (AI) w organach ścigania.
Przypadek: błędna identyfikacja
Lipps została aresztowana w swoim rodzinnym stanie i zabrana do Dakoty Północnej, miejsca, którego nigdy nie odwiedziła, wyłącznie na podstawie dopasowania AI. Lipps stwierdziła, że nie była przygotowana na mróz w Fargo, kiedy została wypuszczona w Wigilię Bożego Narodzenia po wycofaniu zarzutów.
„Miałam na sobie letnie ubrania, bez płaszcza. Na zewnątrz było tak zimno, na ziemi leżał śnieg. Bałam się, chciałam wyjść, ale nie wiedziałam, co robić, jak wrócić do domu” – Lipps powiedziała stacji telewizyjnej WDAY z siedzibą w Fargo.
Policja przyznała się do błędów, ale nie przeprosiła
Komendant policji w Fargo David Zibolski przyznał się do „błędów” w prowadzeniu tej sprawy i stwierdził, że od tego czasu departament zrewidował swoją politykę dotyczącą sztucznej inteligencji. Jednak odmówił bezpośredniego przeprosin Lipps, pomimo jej planów pozwania.
„Chętnie przyznajemy się do błędów, a w tym przypadku na pewno popełniliśmy ich kilka” – powiedział Zibolski na konferencji prasowej. „Z pewnością przepraszamy za jakikolwiek wpływ lub negatywny wpływ, jaki to miało na zaufanie do społeczności”.
Problem: sztuczna inteligencja jako jedyny dowód
Prawnik Lippsa, Jay Greenwood, nazwał tę sprawę „przestrogą” dotyczącą polegania na sztucznej inteligencji i rozpoznawaniu twarzy bez odpowiedniej weryfikacji. Władze Dakoty Północnej nie podjęły dodatkowych kroków dochodzeniowych – takich jak przesłuchanie Lipps lub jej znajomych – w celu potwierdzenia zgodności zidentyfikowanej przez sztuczną inteligencję.
„Opierali się na technologii rozpoznawania twarzy, ale nie podejmowali żadnych innych wysiłków, aby potwierdzić tę identyfikację” – oznajmił Greenwood w e-mailu.
Sprawa rodzi poważne pytania dotyczące należytego procesu i możliwości pomyłek sądowych, gdy sztuczna inteligencja jest wykorzystywana jako kluczowy dowód w dochodzeniach karnych.
Ten incydent uwydatnia potrzebę solidnego nadzoru, przeglądu ręcznego i niezależnej weryfikacji, zanim organy ścigania podejmą działania w oparciu o wskazówki generowane przez sztuczną inteligencję.
Bezprawne uwięzienie Angeli Lipps stanowi wyraźne przypomnienie, że niekontrolowane wykorzystanie sztucznej inteligencji może mieć druzgocące konsekwencje dla jednostek i podważyć zaufanie społeczne do systemu sądowniczego.
