Ubuntu QuotidienFil 02 · Technologie et déshumanisation · 5 septembre 2026
Quand la case « nationalité » devient un soupçon
Aux Pays-Bas, un algorithme fiscal a traité la nationalité étrangère comme un indice de fraude. Des dizaines de milliers de parents ont été accusés à tort, et un gouvernement est tombé.
1 · La scène
Tard le soir, une mère remplit en ligne une demande d'allocation. Les enfants dorment. Nom, adresse, revenu : tout va bien. Puis vient la case « pays de naissance ».
Le curseur reste figé. Elle sait que ce n'est qu'un menu déroulant. Elle sait aussi ce que c'est que d'être regardée deux fois au comptoir, à la douane, à la banque. Elle se demande qui, ou quoi, lira sa réponse. Elle clique enfin, et referme l'ordinateur un peu plus vite que d'habitude.
Vignette originale
2 · Le cas documenté
Le scandale des allocations de garde aux Pays-Bas
À partir de 2013, l'administration fiscale néerlandaise utilise un système qui attribue un risque de fraude plus élevé aux demandeurs d'allocations de garde d'enfants n'ayant pas la nationalité néerlandaise. Des dizaines de milliers de parents, environ 26 000 selon plusieurs médias, sont accusés à tort. Beaucoup sont sommés de rembourser des sommes considérables. Suivent des dettes, des pertes d'emploi, des séparations.
Le 17 décembre 2020, une commission parlementaire publie son rapport, intitulé « Ongekend onrecht », une injustice sans précédent. Le 15 janvier 2021, le gouvernement de Mark Rutte démissionne et promet au moins 30 000 € à chaque parent lésé. En décembre 2021, l'autorité néerlandaise de protection des données inflige au fisc une amende de 2,75 millions d'euros pour avoir traité la double nationalité de façon discriminatoire. Amnesty International parle de « machines xénophobes ».
La leçon dépasse les Pays-Bas. Un algorithme n'invente pas ses soupçons : il reprend ceux qu'on lui confie, puis les applique à grande échelle, sans visage. C'est grâce à des parents qui ont refusé de se taire, à des journalistes et à des parlementaires que le système a été mis au jour.
3 · La voix
« L'État de droit doit protéger ses citoyens contre un gouvernement tout-puissant »
4 · La question
Une machine peut-elle nous voir comme des voisins si on ne lui a appris qu'à chercher des suspects ?
Sources
- Xenophobic machines: Dutch child benefit scandal (Amnesty International, 2021) www.amnesty.org
- Dutch prime minister and his entire cabinet quits over welfare scandal (SBS News, 2021) www.sbs.com.au
- Dutch DPA fines tax authority 2.75M euros (IAPP, 2021) iapp.org
- Dutch childcare benefits scandal (Wikipédia) en.wikipedia.org
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Des erreurs qui ne tombent pas au hasard
Quand un algorithme se trompe plus souvent sur certains visages, ce n'est pas un bogue neutre : c'est un « nous » incomplet.
LireDessine-moi un juge
En 2023, une analyse de Bloomberg a montré qu'un générateur d'images accentuait les stéréotypes de genre et de couleur de peau. Un outil qui fabrique des images fabrique aussi des places.
LireLa machine ne refuse pas seule
Ottawa oblige ses ministères à évaluer les risques de leurs algorithmes avant de s'en servir, et à garder un humain au moment de dire non.
Lire