Een vrouw uit Tennessee, Angela Lipps, bracht meer dan vijf maanden in de gevangenis door nadat ze via gezichtsherkenningstechnologie ten onrechte in verband was gebracht met een bankfraudezaak in North Dakota. Het incident benadrukt de groeiende bezorgdheid over de nauwkeurigheid van en het toezicht op kunstmatige intelligentie (AI) bij wetshandhaving.
De zaak: verkeerde identiteit
Lipps werd in haar thuisstaat gearresteerd en naar North Dakota vervoerd, een plaats die ze nog nooit had bezocht, uitsluitend op basis van een AI-gestuurde wedstrijd. Volgens Lipps was ze niet voorbereid op het koude weer in Fargo toen ze op kerstavond werd vrijgelaten nadat de aanklacht was ingetrokken.
“Ik had mijn zomerkleren aan, geen jas – het was zo koud buiten, sneeuw op de grond – bang, ik wilde naar buiten, maar ik wist niet wat ik ging doen, hoe ik thuis zou komen”, zei Lipps in een interview met WDAY, een televisiestation van Fargo.
Politie erkent fouten, maar verontschuldigt zich niet
Politiechef van Fargo, David Zibolski, gaf toe dat er sprake was van “misstappen” bij de behandeling van de zaak, en verklaarde dat de afdeling sindsdien haar AI-beleid heeft herzien. Hij weigerde echter een directe verontschuldiging aan Lipps aan te bieden, ondanks haar plannen om een rechtszaak aan te spannen.
“We geven het graag toe als we fouten maken, en in dit geval hebben we er zeker een paar gemaakt”, zei Zibolski op een persconferentie. “We verontschuldigen ons zeker voor het eventuele effect of negatieve effect dat dit heeft gehad op het vertrouwen in de gemeenschap.”
Het probleem: AI als enig bewijs
De advocaat van Lipps, Jay Greenwood, noemde de zaak “een waarschuwend verhaal” over het vertrouwen op AI en gezichtsherkenning zonder de juiste verificatie. De autoriteiten van North Dakota hebben geen aanvullende onderzoeksstappen uitgevoerd – zoals interviews met Lipps of haar medewerkers – om de door AI gegenereerde match te bevestigen.
“Ze vertrouwden op gezichtsherkenningstechnologie, maar deden geen enkele andere poging om die identificatie te bevestigen”, aldus Greenwood in een e-mail.
Deze zaak roept serieuze vragen op over een eerlijk proces en de kans op gerechtelijke dwalingen wanneer AI wordt gebruikt als primair bewijsmateriaal in strafrechtelijke onderzoeken.
Het incident onderstreept de noodzaak van robuust toezicht, menselijke beoordeling en onafhankelijke verificatie voordat wetshandhavingsinstanties optreden op basis van door AI gegenereerde aanwijzingen.
De onrechtmatige gevangenneming van Angela Lipps herinnert ons er duidelijk aan dat ongecontroleerde AI-toepassingen verwoestende gevolgen kunnen hebben voor individuen en het vertrouwen van het publiek in het rechtssysteem kunnen aantasten.
