Ubuntu QuotidienFil 02 · Technologie et déshumanisation · 25 septembre 2026
Des erreurs qui ne tombent pas au hasard
Quand un algorithme se trompe plus souvent sur certains visages, ce n'est pas un bogue neutre : c'est un « nous » incomplet.
1 · La scène
La porte de l'immeuble s'ouvre par reconnaissance faciale. Pour les voisins, du premier coup. Pour Aïcha, il faut trois essais, puis le concierge.
« Ce n'est rien, c'est juste la machine. » Peut-être. Mais chaque matin, la porte lui rappelle qu'elle n'était pas dans la pièce quand la machine a appris à voir.
Vignette originale
2 · Le cas documenté
Des erreurs qui ne tombent pas au hasard
En 2018, les chercheuses Joy Buolamwini et Timnit Gebru testent trois systèmes commerciaux de reconnaissance du genre (étude « Gender Shades »). Pour les femmes à la peau foncée, les taux d'erreur atteignent 20,8 %, 34,5 % et 34,7 %. Pour les hommes à la peau claire, ils ne dépassent jamais 0,8 %.
En décembre 2019, l'agence américaine NIST évalue 189 algorithmes de 99 développeurs. Dans la comparaison d'un visage à un autre, les faux positifs sont souvent de 10 à 100 fois plus fréquents pour les visages asiatiques et afro-américains que pour les visages blancs, selon l'algorithme.
La bonne nouvelle : ces écarts se mesurent, donc ils se corrigent. Des données plus diverses et des équipes plus diverses font des machines plus justes.
3 · La voix
« Umuntu ngumuntu ngabantu : une personne est une personne à travers les autres. »
4 · La question
Qui était dans la pièce quand la machine a appris à voir, et qui manquait ?
Sources
- J. Buolamwini et T. Gebru, « Gender Shades », Proceedings of Machine Learning Research, 2018. proceedings.mlr.press
- MIT News, « Study finds gender and skin-type bias in commercial AI systems », 2018. news.mit.edu
- NIST, étude FRVT sur les effets démographiques, décembre 2019. www.nist.gov
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Dessine-moi un juge
En 2023, une analyse de Bloomberg a montré qu'un générateur d'images accentuait les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.
LireQuand la case « nationalité » devient un soupçon
Aux Pays-Bas, un algorithme fiscal a traité la nationalité étrangère comme un indice de fraude. Des dizaines de milliers de parents ont été accusés à tort, et un gouvernement est tombé.
LireRobodebt : quand la machine accuse
En Australie, un calcul automatisé a réclamé à tort des centaines de milliers de dettes à des prestataires d'aide sociale. Une commission royale l'a jugé cruel et illégal.
Lire