Fil 02 · Technologie et déshumanisation · 27 septembre 2026 · 2 min de lecture

Robodebt : quand la machine accuse

En Australie, un calcul automatisé réclama à tort des centaines de milliers de dettes à des prestataires d'aide sociale. Une commission royale le jugea cruel et illégal.

Parliament House at dusk, Canberra ACT
Photo : Parliament House at dusk, Canberra ACT · Thennicke · CC BY-SA 4.0 · via Wikimedia Commons

Le grenier à récits

C'était en 2015-2016, en Australie.

Le pays confia à un système automatisé le repérage des trop-perçus d'aide sociale. On le surnomma « Robodebt ».

Voici la méthode. Le système faisait la moyenne des revenus annuels déclarés au fisc. Puis il la répartissait également sur toute l'année.

Comme si chacun gagnait la même somme chaque quinzaine.

Pour des personnes aux revenus irréguliers, le calcul fabriquait des dettes qui n'existaient pas.

Et c'était ensuite aux prestataires de prouver qu'ils ne devaient rien.

Selon les estimations publiées, des centaines de milliers de dettes erronées furent émises avant l'abandon du système.

Des centaines de milliers.

Mais des prestataires, des avocats, des journalistes et des militants refusèrent de croire la machine sur parole.

À la fin de 2020, un recours collectif mena à un règlement. Plus de 720 millions de dollars australiens furent remboursés. Près de 112 millions furent versés en indemnisation.

Le 7 juillet 2023, le rapport de la commission royale présidée par Catherine Holmes fut rendu public.

Il conclut que le système avait fait se sentir criminelles de nombreuses personnes. La commissaire résuma ses conclusions en une phrase :

« Un mécanisme grossier et cruel, ni juste ni légal. »
Catherine Holmes, commissaire, rapport de la commission royale sur Robodebt, 2023 (traduction libre)

Le rapport formula 57 recommandations. L'une d'elles : créer un organisme chargé de surveiller les décisions automatisées.

Chaque personne appartient à un « nous », rappelle l'Ubuntu. Quand on la réduit à une moyenne, c'est ce lien qu'on oublie.

La leçon dépasse l'Australie. Partout où un algorithme calcule ce que doivent des personnes vulnérables, il faut un humain capable d'expliquer, de douter et de corriger.

Une machine ne sait pas douter.

Ce devoir-là nous revient, à chacun.

La question

Quand une machine décide qu'on doit de l'argent, qui porte encore la responsabilité de regarder la personne en face ?

Faire voyager ce récit

Chiffres

57recommandations de la commission royale, 2023
112 M$ AUversés en indemnisation après le recours collectif

Sources

  1. Déclaration du premier ministre sur le rapport de la commission royale (Premier ministre d'Australie, 2023) pmtranscripts.pmc.gov.au
  2. « Crude, cruel and unlawful: Robodebt Royal Commission findings » (Law Society Journal, 2023) lsj.com.au
  3. « Australia Robodebt royal commission hands down findings » (JURIST, 2023) www.jurist.org

Chaque donnée de cette page renvoie à une source publique vérifiable.

Mots-clés

À lire aussi

Fil 02

Une ressemblance n'est pas une preuve

À Détroit, un père noir a été arrêté à tort devant ses filles à cause d'un logiciel de reconnaissance faciale. Son courage a changé les règles de la police.

Lire
Fil 02

Quand la case « nationalité » devient un soupçon

Aux Pays-Bas, un algorithme fiscal traita la nationalité étrangère comme un indice de fraude. Des dizaines de milliers de parents furent accusés à tort, et un gouvernement tomba.

Lire
Fil 02

Des erreurs qui ne tombent pas au hasard

En 2018, deux chercheuses ont montré que des systèmes de reconnaissance du genre se trompaient bien plus souvent sur certains visages. Ces erreurs ne tombent pas au hasard, et elles se corrigent.

Lire

L’article du jour

Recevez chaque récit par courriel.

Un récit vrai par jour, gratuit et sans publicité.

Ou suivez le flux RSS.