Fil 02 · Technologie et déshumanisation · 25 septembre 2026 · 2 min de lecture

Des erreurs qui ne tombent pas au hasard

En 2018, deux chercheuses ont montré que des systèmes de reconnaissance du genre se trompaient bien plus souvent sur certains visages. Ces erreurs ne tombent pas au hasard, et elles se corrigent.

Demonstration of facial recognition software
Photo : Demonstration of facial recognition software · Pete Woodhead · CC BY 2.0 · via Wikimedia Commons

Le grenier à récits

C'était le matin, devant la porte d'un immeuble.

La porte s'ouvrait par reconnaissance faciale. Pour les voisins, ça marchait du premier coup. Pour Aïcha, il fallait trois essais. Puis le concierge.

« Ce n'est rien, c'est juste la machine », disait-il.

Peut-être. Mais chaque matin, la porte lui rappelait une chose : elle n'était pas dans la pièce quand la machine avait appris à voir.

(Cette scène est inventée. Ce qui suit ne l'est pas.)

En 2018, deux chercheuses, Joy Buolamwini et Timnit Gebru, testèrent trois systèmes commerciaux de reconnaissance du genre. Leur étude s'appela « Gender Shades ».

Elles regardèrent qui la machine reconnaissait bien. Et qui elle reconnaissait mal.

Pour les hommes à la peau claire, l'erreur ne dépassait jamais 0,8 %.

Pour les femmes à la peau foncée, elle montait jusqu'à 34,7 %.

Ces ratés ne tombaient pas au hasard.

C'était comme un portier qui n'aurait appris que les visages d'une seule rangée de la salle. Pour les autres, il hésitait. Il se trompait. Il redemandait.

En décembre 2019, une agence américaine, le NIST, évalua à son tour 189 algorithmes. Elle mesura comment ils comparaient un visage à un autre.

Elle chercha les faux positifs : quand la machine croit reconnaître quelqu'un, alors que ce n'est pas lui.

Pour les visages asiatiques et afro-américains, ces erreurs étaient souvent de 10 à 100 fois plus fréquentes que pour les visages blancs. L'écart variait selon l'algorithme.

De 10 à 100 fois.

Mais il y avait une bonne nouvelle. Ces écarts se mesurent, donc ils se corrigent. Des données plus diverses et des équipes plus diverses font des machines plus justes.

Un proverbe nguni disait cela depuis longtemps :

« Umuntu ngumuntu ngabantu : une personne est une personne à travers les autres. »
Proverbe nguni (isiZulu)

C'est le cœur de l'Ubuntu : on devient pleinement soi à travers les autres. Une machine, elle, apprend de ceux qu'on lui montre. Ce qu'elle ne voit pas, c'est souvent ce qu'on ne lui a pas montré.

Quand chacun est dans la pièce, elle voit mieux tout le monde.

Là où vous travaillez ou décidez, une simple question peut ouvrir la porte : qui n'est pas encore dans la pièce ?

Et vous ?

Qui était dans la pièce quand la machine a appris à voir, et qui manquait ?

Faire voyager ce récit

Chiffres

34,7 %erreur maximale pour les femmes à la peau foncée (Gender Shades, 2018)
0,8 %erreur maximale pour les hommes à la peau claire
10 à 100×plus de faux positifs pour certains visages, selon l'algorithme (NIST, 2019)

Sources

  1. J. Buolamwini et T. Gebru, « Gender Shades », Proceedings of Machine Learning Research, 2018. proceedings.mlr.press
  2. MIT News, « Study finds gender and skin-type bias in commercial AI systems », 2018. news.mit.edu
  3. NIST, étude FRVT sur les effets démographiques, décembre 2019. www.nist.gov

Chaque donnée de cette page renvoie à une source publique vérifiable.

Mots-clés

À lire aussi

Fil 02

Un outil trop beau pour être honnête

La GRC a utilisé un logiciel de reconnaissance faciale bâti sur des photos que les commissaires jugent recueillies illégalement. Même la police doit savoir d'où viennent ses outils.

Lire
Fil 02

Dessine-moi un juge

En 2023, deux journalistes de Bloomberg montrent qu'un générateur d'images grossit les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.

Lire
Fil 02

Robodebt : quand la machine accuse

En Australie, un calcul automatisé réclama à tort des centaines de milliers de dettes à des prestataires d'aide sociale. Une commission royale le jugea cruel et illégal.

Lire

L’article du jour

Recevez chaque récit par courriel.

Un récit vrai par jour, gratuit et sans publicité.

Ou suivez le flux RSS.