Fil 02 · Technologie et déshumanisation · 20 septembre 2026 · 2 min de lecture

Dessine-moi un juge

En 2023, deux journalistes de Bloomberg montrent qu'un générateur d'images grossit les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.

3D Judges Gavel
Photo : 3D Judges Gavel · Chris Potter · CC BY 2.0 · via Wikimedia Commons

Le grenier à récits

C'était un mercredi soir, à la table de la cuisine.

Une fillette emprunta la tablette de son père. Elle tapa, lettre par lettre : « Dessine une docteure qui me ressemble. »

L'image apparut. Une femme souriante, sarrau blanc, stéthoscope. Cheveux lisses, peau claire.

La fillette effaça. Elle recommença, en ajoutant « avec des tresses ». Le résultat changea un peu. Pas assez.

Elle poussa la tablette. « Elle me ressemble pas. »

Son père chercha quoi répondre. Il finit par sortir des crayons et une feuille blanche.

(Cette scène est inventée. Ce qui suit ne l'est pas.)

Ce que la fillette a senti, deux journalistes l'ont mesuré.

C'était en juin 2023. Leonardo Nicoletti et Dina Bass, de Bloomberg, mirent à l'épreuve un générateur d'images, Stable Diffusion.

Ils lui demandèrent plus de 5 000 portraits : 14 métiers, et quelques mots liés au crime. Puis ils comparèrent les images aux chiffres réels du travail aux États-Unis.

Pour « juge », les femmes n'apparurent que dans 3 % des images. Pourtant, elles forment 34 % des juges américains.

Les métiers bien payés, eux, étaient dominés par des peaux claires.

Pour « détenu », plus de 80 % des images montrèrent des peaux foncées. Or, les personnes de couleur forment moins de la moitié des prisonniers américains.

La conclusion fut nette. L'outil ne reflétait pas seulement les préjugés du monde. Il les grossissait.

Comme un miroir déformant qui agrandit toujours les mêmes traits. Un outil qui apprend nos clichés peut les répéter, en plus fort.

Ces chiffres sont américains, et ces outils ont changé depuis. L'enquête est une photo d'un moment. Mais la question reste.

Car ces images circulent dans les présentations, les manuels, les publicités. Sans un mot, elles disent qui ressemble à un juge. Et qui ressemble à un suspect.

Des chercheurs, des artistes et des organismes travaillent à des données plus représentatives et à des outils pour vérifier ces images. Chacun peut aussi aider, en regardant d'un œil critique les images qu'il utilise et partage.

La présidente de Black Girls Code, citée par Bloomberg, résuma l'enjeu :

« En se voyant ou non, on apprend qu'on n'a peut-être pas sa place. »
Heather Hiles, présidente de Black Girls Code, citée par Bloomberg, 2023 (traduction libre)

On apprend qui l'on est dans le regard des autres : l'Ubuntu le sait. Aujourd'hui, on l'apprend aussi dans les images qu'on nous renvoie.

Une image peut ouvrir une place. Elle peut aussi la refermer.

Quelque part, une enfant cherche peut-être son visage sur un écran. Les feuilles blanches, nous pouvons les remplir ensemble.

Et vous ?

Quelles images voulons-nous montrer aux enfants, pour qu'ils sachent qu'ils ont leur place ?

Faire voyager ce récit

Chiffres

3 %des images de « juge » montraient une femme
34 %des juges américains sont des femmes
+ de 80 %des images de « détenu » montraient des peaux foncées

Sources

  1. Humans Are Biased. Generative AI Is Even Worse (Bloomberg, 2023) www.bloomberg.com
  2. Is AI more biased than humans? (Marketplace, 2023) www.marketplace.org
  3. Rapport 3180 (AI Incident Database) incidentdatabase.ai

Chaque donnée de cette page renvoie à une source publique vérifiable.

Mots-clés

À lire aussi

Fil 02

Des erreurs qui ne tombent pas au hasard

En 2018, deux chercheuses ont montré que des systèmes de reconnaissance du genre se trompaient bien plus souvent sur certains visages. Ces erreurs ne tombent pas au hasard, et elles se corrigent.

Lire
Fil 02

Un outil trop beau pour être honnête

La GRC a utilisé un logiciel de reconnaissance faciale bâti sur des photos que les commissaires jugent recueillies illégalement. Même la police doit savoir d'où viennent ses outils.

Lire
Fil 02

Le cadrage qui choisissait un visage

En 2020, des internautes montrent que le recadrage automatique des photos sur Twitter favorise certains visages. L'entreprise mesure le biais, puis rend le choix aux personnes.

Lire

L’article du jour

Recevez chaque récit par courriel.

Un récit vrai par jour, gratuit et sans publicité.

Ou suivez le flux RSS.