Angela Lipps, une femme du Tennessee, a passé plus de cinq mois en prison après avoir été faussement liée à une affaire de fraude bancaire dans le Dakota du Nord grâce à la technologie de reconnaissance faciale. L’incident met en lumière les inquiétudes croissantes concernant l’exactitude et la surveillance de l’intelligence artificielle (IA) dans les forces de l’ordre.
L’affaire : une erreur d’identité
Lipps a été arrêtée dans son État d’origine et transportée dans le Dakota du Nord, un endroit qu’elle n’avait jamais visité, sur la seule base d’une correspondance basée sur l’IA. Selon Lipps, elle n’était pas préparée au froid à Fargo lorsqu’elle a été libérée la veille de Noël après l’abandon des charges.
“J’avais mes vêtements d’été, pas de manteau – il faisait si froid dehors, il y avait de la neige au sol – j’avais peur, je voulais sortir, mais je ne savais pas ce que j’allais faire, comment j’allais rentrer à la maison”, a déclaré Lipps dans une interview avec WDAY, une chaîne de télévision Fargo.
La police reconnaît ses erreurs, mais ne présente pas d’excuses
Le chef de la police de Fargo, David Zibolski, a admis des « faux pas » dans le traitement de l’affaire, déclarant que le département avait depuis révisé sa politique en matière d’IA. Cependant, il a refusé de présenter des excuses directes à Lipps, malgré son intention d’intenter une action en justice.
“Nous sommes heureux de reconnaître lorsque nous commettons des erreurs, et nous en avons commis quelques-unes dans ce cas, c’est sûr”, a déclaré Zibolski lors d’une conférence de presse. “Nous nous excusons certainement pour tout effet, ou effet négatif, que cela a eu sur la confiance dans la communauté.”
Le problème : l’IA comme seule preuve
L’avocat de Lipps, Jay Greenwood, a qualifié l’affaire de « mise en garde » concernant le recours à l’IA et à la reconnaissance faciale sans vérification appropriée. Les autorités du Dakota du Nord n’ont pas mené d’enquête supplémentaire – comme des entretiens avec Lipps ou ses associés – pour confirmer la correspondance générée par l’IA.
“Ils se sont appuyés sur la technologie de reconnaissance faciale mais n’ont fait aucun autre effort pour corroborer cette identification”, a déclaré Greenwood dans un e-mail.
Cette affaire soulève de sérieuses questions quant à la régularité de la procédure et au risque d’erreurs judiciaires lorsque l’IA est utilisée comme preuve principale dans les enquêtes criminelles.
L’incident souligne la nécessité d’une surveillance rigoureuse, d’un examen humain et d’une vérification indépendante avant que les forces de l’ordre n’agissent sur les pistes générées par l’IA.
L’emprisonnement injustifié d’Angela Lipps nous rappelle brutalement que les applications incontrôlées de l’IA peuvent avoir des conséquences dévastatrices pour les individus et éroder la confiance du public dans le système judiciaire.
