Ubuntu Quotidien · ubuntuquotidien.com · Fiche à imprimer
Fil 02 · Technologie et déshumanisation · 27 septembre 2026 · 2 min de lecture
Robodebt : quand la machine accuse
En Australie, un calcul automatisé réclama à tort des centaines de milliers de dettes à des prestataires d'aide sociale. Une commission royale le jugea cruel et illégal.

Le grenier à récits
C'était en 2015-2016, en Australie.
Le pays confia à un système automatisé le repérage des trop-perçus d'aide sociale. On le surnomma « Robodebt ».
Voici la méthode. Le système faisait la moyenne des revenus annuels déclarés au fisc. Puis il la répartissait également sur toute l'année.
Comme si chacun gagnait la même somme chaque quinzaine.
Pour des personnes aux revenus irréguliers, le calcul fabriquait des dettes qui n'existaient pas.
Et c'était ensuite aux prestataires de prouver qu'ils ne devaient rien.
Selon les estimations publiées, des centaines de milliers de dettes erronées furent émises avant l'abandon du système.
Des centaines de milliers.
Mais des prestataires, des avocats, des journalistes et des militants refusèrent de croire la machine sur parole.
À la fin de 2020, un recours collectif mena à un règlement. Plus de 720 millions de dollars australiens furent remboursés. Près de 112 millions furent versés en indemnisation.
Le 7 juillet 2023, le rapport de la commission royale présidée par Catherine Holmes fut rendu public.
Il conclut que le système avait fait se sentir criminelles de nombreuses personnes. La commissaire résuma ses conclusions en une phrase :
« Un mécanisme grossier et cruel, ni juste ni légal. »
Le rapport formula 57 recommandations. L'une d'elles : créer un organisme chargé de surveiller les décisions automatisées.
Chaque personne appartient à un « nous », rappelle l'Ubuntu. Quand on la réduit à une moyenne, c'est ce lien qu'on oublie.
La leçon dépasse l'Australie. Partout où un algorithme calcule ce que doivent des personnes vulnérables, il faut un humain capable d'expliquer, de douter et de corriger.
Une machine ne sait pas douter.
Ce devoir-là nous revient, à chacun.
La question
Quand une machine décide qu'on doit de l'argent, qui porte encore la responsabilité de regarder la personne en face ?
Mes réponses :
Chiffres
Sources
- Déclaration du premier ministre sur le rapport de la commission royale (Premier ministre d'Australie, 2023) pmtranscripts.pmc.gov.au
- « Crude, cruel and unlawful: Robodebt Royal Commission findings » (Law Society Journal, 2023) lsj.com.au
- « Australia Robodebt royal commission hands down findings » (JURIST, 2023) www.jurist.org
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Une ressemblance n'est pas une preuve
À Détroit, un père noir a été arrêté à tort devant ses filles à cause d'un logiciel de reconnaissance faciale. Son courage a changé les règles de la police.
LireQuand la case « nationalité » devient un soupçon
Aux Pays-Bas, un algorithme fiscal traita la nationalité étrangère comme un indice de fraude. Des dizaines de milliers de parents furent accusés à tort, et un gouvernement tomba.
LireDes erreurs qui ne tombent pas au hasard
En 2018, deux chercheuses ont montré que des systèmes de reconnaissance du genre se trompaient bien plus souvent sur certains visages. Ces erreurs ne tombent pas au hasard, et elles se corrigent.
Lire