Ubuntu QuotidienFil 02 · Technologie et déshumanisation · 20 septembre 2026
Dessine-moi un juge
En 2023, une analyse de Bloomberg a montré qu'un générateur d'images accentuait les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.
1 · La scène
Mercredi soir, à la table de la cuisine. Une fillette emprunte la tablette de son père et tape, lettre par lettre : « Dessine une docteure qui me ressemble. »
L'image apparaît. Une femme souriante, sarrau blanc, stéthoscope. Cheveux lisses, peau claire. La fillette fronce les sourcils, efface, recommence en ajoutant « avec des tresses ». Le résultat change un peu, pas assez. Elle pousse la tablette. « Elle me ressemble pas. » Son père cherche quoi répondre. Il finit par sortir des crayons et une feuille blanche.
Vignette originale
2 · Le cas documenté
Les biais amplifiés de l'IA générative
En juin 2023, deux journalistes de Bloomberg, Leonardo Nicoletti et Dina Bass, demandent au générateur d'images Stable Diffusion plus de 5 000 portraits correspondant à 14 métiers et à quelques mots liés au crime. Ils comparent ensuite les résultats aux données du marché du travail américain.
Les femmes n'apparaissent que dans 3 % des images de « juge », alors qu'elles forment 34 % des juges aux États-Unis. Les métiers bien payés sont dominés par des peaux claires. Plus de 80 % des images de « détenu » montrent des peaux foncées, alors que les personnes de couleur forment moins de la moitié de la population carcérale américaine. Conclusion de l'analyse : l'outil ne reflétait pas seulement les biais du monde, il les amplifiait.
Ces données sont américaines, et les modèles ont évolué depuis : l'analyse est un instantané. Mais la question demeure. Les images générées circulent dans les présentations, les manuels et les publicités. Elles disent, sans un mot, qui ressemble à un juge et qui ressemble à un suspect. Des chercheurs, des artistes et des organismes travaillent à des données plus représentatives et à des outils d'audit. Chacun peut aussi y contribuer, en regardant d'un œil critique les images qu'il utilise et partage.
3 · La voix
« En se voyant ou non, on apprend qu'on n'a peut-être pas sa place. »
4 · La question
Si les images que nous fabriquons apprennent aux enfants où est leur place, quelles images voulons-nous leur montrer ensemble ?
Sources
- Humans Are Biased. Generative AI Is Even Worse (Bloomberg, 2023) www.bloomberg.com
- Is AI more biased than humans? (Marketplace, 2023) www.marketplace.org
- Rapport 3180 (AI Incident Database) incidentdatabase.ai
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Des erreurs qui ne tombent pas au hasard
Quand un algorithme se trompe plus souvent sur certains visages, ce n'est pas un bogue neutre : c'est un « nous » incomplet.
LireLe cadrage qui choisissait un visage
En 2020, des internautes ont montré que le recadrage automatique de Twitter favorisait certains visages ; l'entreprise a mesuré le biais, puis rendu le choix aux personnes.
LireQuand la case « nationalité » devient un soupçon
Aux Pays-Bas, un algorithme fiscal a traité la nationalité étrangère comme un indice de fraude. Des dizaines de milliers de parents ont été accusés à tort, et un gouvernement est tombé.
Lire