Robodebt : quand la machine accuse

À partir de 2015-2016, l'Australie confie à un système automatisé le repérage des trop-perçus d'aide sociale. La méthode, qu'on surnommera « Robodebt », fait la moyenne des revenus annuels déclarés au fisc et la répartit également sur toute l'année, comme si chacun gagnait la même somme chaque quinzaine. Pour des personnes aux revenus irréguliers, le calcul fabrique des dettes qui n'existent pas. C'est ensuite aux prestataires de prouver qu'ils ne doivent rien.

Selon les estimations publiées, des centaines de milliers de dettes erronées ont été émises avant l'abandon du système. À la fin de 2020, un recours collectif mène à un règlement : plus de 720 millions de dollars australiens remboursés et près de 112 millions versés en indemnisation.

Le 7 juillet 2023, le rapport de la commission royale présidée par Catherine Holmes est rendu public. Il conclut que Robodebt était un mécanisme grossier et cruel, ni juste ni légal, qui a fait se sentir criminelles de nombreuses personnes. Le rapport formule 57 recommandations, dont la création d'un organisme chargé de surveiller les décisions automatisées.

Si le système est tombé, c'est parce que des prestataires, des avocats, des journalistes et des militants ont refusé de croire la machine sur parole. La leçon dépasse l'Australie : partout où un algorithme calcule ce que doivent des personnes vulnérables, il faut un humain capable d'expliquer, de douter et de corriger.