Ubuntu Quotidien · ubuntuquotidien.com · Fiche à imprimer
Fil 02 · Technologie et déshumanisation · 20 septembre 2026 · 2 min de lecture
Dessine-moi un juge
En 2023, deux journalistes de Bloomberg montrent qu'un générateur d'images grossit les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.

Le grenier à récits
C'était un mercredi soir, à la table de la cuisine.
Une fillette emprunta la tablette de son père. Elle tapa, lettre par lettre : « Dessine une docteure qui me ressemble. »
L'image apparut. Une femme souriante, sarrau blanc, stéthoscope. Cheveux lisses, peau claire.
La fillette effaça. Elle recommença, en ajoutant « avec des tresses ». Le résultat changea un peu. Pas assez.
Elle poussa la tablette. « Elle me ressemble pas. »
Son père chercha quoi répondre. Il finit par sortir des crayons et une feuille blanche.
(Cette scène est inventée. Ce qui suit ne l'est pas.)
Ce que la fillette a senti, deux journalistes l'ont mesuré.
C'était en juin 2023. Leonardo Nicoletti et Dina Bass, de Bloomberg, mirent à l'épreuve un générateur d'images, Stable Diffusion.
Ils lui demandèrent plus de 5 000 portraits : 14 métiers, et quelques mots liés au crime. Puis ils comparèrent les images aux chiffres réels du travail aux États-Unis.
Pour « juge », les femmes n'apparurent que dans 3 % des images. Pourtant, elles forment 34 % des juges américains.
Les métiers bien payés, eux, étaient dominés par des peaux claires.
Pour « détenu », plus de 80 % des images montrèrent des peaux foncées. Or, les personnes de couleur forment moins de la moitié des prisonniers américains.
La conclusion fut nette. L'outil ne reflétait pas seulement les préjugés du monde. Il les grossissait.
Comme un miroir déformant qui agrandit toujours les mêmes traits. Un outil qui apprend nos clichés peut les répéter, en plus fort.
Ces chiffres sont américains, et ces outils ont changé depuis. L'enquête est une photo d'un moment. Mais la question reste.
Car ces images circulent dans les présentations, les manuels, les publicités. Sans un mot, elles disent qui ressemble à un juge. Et qui ressemble à un suspect.
Des chercheurs, des artistes et des organismes travaillent à des données plus représentatives et à des outils pour vérifier ces images. Chacun peut aussi aider, en regardant d'un œil critique les images qu'il utilise et partage.
La présidente de Black Girls Code, citée par Bloomberg, résuma l'enjeu :
« En se voyant ou non, on apprend qu'on n'a peut-être pas sa place. »
On apprend qui l'on est dans le regard des autres : l'Ubuntu le sait. Aujourd'hui, on l'apprend aussi dans les images qu'on nous renvoie.
Une image peut ouvrir une place. Elle peut aussi la refermer.
Quelque part, une enfant cherche peut-être son visage sur un écran. Les feuilles blanches, nous pouvons les remplir ensemble.
Et vous ?
Quelles images voulons-nous montrer aux enfants, pour qu'ils sachent qu'ils ont leur place ?
Mes réponses :
Chiffres
Sources
- Humans Are Biased. Generative AI Is Even Worse (Bloomberg, 2023) www.bloomberg.com
- Is AI more biased than humans? (Marketplace, 2023) www.marketplace.org
- Rapport 3180 (AI Incident Database) incidentdatabase.ai
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Des erreurs qui ne tombent pas au hasard
En 2018, deux chercheuses ont montré que des systèmes de reconnaissance du genre se trompaient bien plus souvent sur certains visages. Ces erreurs ne tombent pas au hasard, et elles se corrigent.
LireUn outil trop beau pour être honnête
La GRC a utilisé un logiciel de reconnaissance faciale bâti sur des photos que les commissaires jugent recueillies illégalement. Même la police doit savoir d'où viennent ses outils.
LireLe cadrage qui choisissait un visage
En 2020, des internautes montrent que le recadrage automatique des photos sur Twitter favorise certains visages. L'entreprise mesure le biais, puis rend le choix aux personnes.
Lire