Ubuntu QuotidienFil 02 · Technologie et déshumanisation · 25 septembre 2026
Une ressemblance n'est pas une preuve
À Détroit, un père noir a été arrêté à tort devant ses filles à cause d'un logiciel ; son courage a changé les règles de la police.
1 · La scène
À la sortie d'un magasin de Laval, un agent de sécurité arrête Jean-Marc, les bras chargés de sacs d'épicerie. « Le système dit que vous ressemblez à quelqu'un. » Ses deux enfants le regardent, immobiles.
Tout s'arrange en dix minutes : ce n'était pas lui. Mais dans l'auto, sa fille demande tout bas : « Pourquoi c'est toi qu'ils ont choisi, papa ? » Il ne sait pas quoi répondre.
Vignette originale
2 · Le cas documenté
L'arrestation de Robert Williams
En janvier 2020, Robert Williams, un homme noir de la banlieue de Détroit, est arrêté devant sa maison de Farmington Hills, sous les yeux de sa femme et de ses deux jeunes filles. La police le soupçonne d'avoir volé des montres dans un magasin du centre-ville. Le seul lien : un logiciel de reconnaissance faciale a associé une image floue de caméra de surveillance à une ancienne photo de son permis de conduire. Il n'était pas le voleur. Il passe pourtant 30 heures en détention.
Robert Williams n'est pas un cas isolé : à Détroit seulement, au moins deux autres personnes, elles aussi noires, ont été arrêtées à tort à cause d'une fausse correspondance.
Avec l'aide de l'Union américaine pour les libertés civiles, il poursuit la Ville. Le 28 juin 2024, une entente est conclue. La police de Détroit ne peut plus arrêter quelqu'un sur la seule base de la reconnaissance faciale : le résultat doit être appuyé par d'autres preuves indépendantes. Les policiers doivent être formés sur cette technologie et sur ses effets plus lourds pour les personnes de couleur, et les arrestations liées à cette technologie depuis 2017 doivent être vérifiées.
Un homme blessé aurait pu se taire. Il a choisi de raconter son histoire, encore et encore, pour que d'autres familles n'aient pas à vivre la même chose.
3 · La voix
« Ils pensaient que c'était une sorte de magie qu'ils utilisaient. »
4 · La question
Quand une machine désigne quelqu'un comme suspect, que devons-nous à cette personne avant de la croire coupable ?
Sources
- ACLU, Williams v. City of Detroit (dossier et entente). www.aclu.org
- Michigan Public, « Wrongful facial recognition arrest in Detroit leads to landmark settlement », 28 juin 2024. www.michiganpublic.org
- Electronic Frontier Foundation, « Detroit Takes Important Step in Curbing the Harms of Face Recognition Technology », juillet 2024. www.eff.org
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Un outil trop beau pour être honnête
La GRC a utilisé un logiciel de reconnaissance faciale bâti sur des photos que les commissaires jugent recueillies illégalement ; même la police doit savoir d'où viennent ses outils.
LireDes erreurs qui ne tombent pas au hasard
Quand un algorithme se trompe plus souvent sur certains visages, ce n'est pas un bogue neutre : c'est un « nous » incomplet.
LireDessine-moi un juge
En 2023, une analyse de Bloomberg a montré qu'un générateur d'images accentuait les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.
Lire