Ubuntu Quotidien · ubuntuquotidien.com · Fiche à imprimer
Fil 02 · Technologie et déshumanisation · 25 septembre 2026 · 2 min de lecture
Mesurer la maladie en dollars
Un algorithme de santé américain jugeait les besoins des patients à leurs dépenses passées. Les patients noirs, moins soignés, semblaient donc moins malades.

Le grenier à récits
C'était dans la salle d'attente d'une clinique de Montréal-Nord.
Ginette, préposée aux bénéficiaires, jasait avec sa voisine de siège. Elle n'avait pas vu de médecin depuis quatre ans. Deux emplois, pas de temps, pas de médecin de famille.
« Au moins, je ne coûte pas cher au système », dit-elle en riant. Sa voisine ne rit pas.
(Cette scène est inventée. Ce qui suit ne l'est pas.)
Coûter peu, ce n'est pas la même chose qu'aller bien. Un algorithme a pourtant confondu ces deux choses.
Le 25 octobre 2019, la revue Science publia l'étude de quatre chercheurs : Ziad Obermeyer, Brian Powers, Christine Vogeli et Sendhil Mullainathan.
Ils avaient examiné un algorithme commercial largement utilisé par des systèmes de santé américains. Son rôle : repérer les patients aux besoins complexes, pour leur offrir un suivi supplémentaire.
Selon les chercheurs, ce genre d'outils influence des décisions pour plus de 100 millions d'Américains.
Ils analysèrent les dossiers de 43 539 patients blancs et de 6 079 patients noirs d'un grand hôpital universitaire.
Leur constat : à score de risque égal, les patients noirs étaient nettement plus malades.
Pourquoi ? L'algorithme prédisait les dépenses de santé futures. Pas la maladie.
Or, à cause d'un accès inégal aux soins, on dépense moins pour soigner les patients noirs.
Moins de dépenses passées donnait l'illusion de moins de besoins.
Imaginez qu'on mesure la soif de quelqu'un au nombre de verres qu'on lui a déjà servis.
Celui qu'on a oublié semblera toujours moins assoiffé.
Corriger ce biais ferait passer la part des patients noirs qui reçoivent une aide supplémentaire de 17,7 % à 46,5 %.
Les chercheurs ne s'arrêtèrent pas au constat. Ils travaillèrent avec le fabricant, qui confirma leurs résultats.
Ensemble, ils montrèrent qu'en tenant compte des besoins de santé réels, on réduisait le biais racial de 84 %.
L'un d'eux, l'économiste Sendhil Mullainathan, le rappela :
« Les algorithmes, en eux-mêmes, ne sont ni bons ni mauvais. »
La machine n'était pas méchante. Elle avait appris d'un monde inégal.
Les chiffres d'une société racontent comment elle a pris soin des siens. L'Ubuntu nous dit que nous existons les uns par les autres : quand des chercheurs et une entreprise regardent le problème ensemble, la correction devient possible, pour nous tous.
Un chiffre ne dit pas seulement ce dont une personne a besoin. Il dit aussi ce qu'on lui a donné, ou refusé.
Aujourd'hui, quelque part, quelqu'un semble « coûter peu ». Peut-être faut-il lui demander comment il va.
Et vous ?
Dans nos propres chiffres, au travail comme dans nos services publics, qu'est-ce qui mesure vraiment les besoins d'une personne, et qu'est-ce qui mesure seulement ce qu'on lui a déjà donné ?
Mes réponses :
Chiffres
Sources
- Z. Obermeyer, B. Powers, C. Vogeli et S. Mullainathan, « Dissecting racial bias in an algorithm used to manage the health of populations », Science, vol. 366, 25 octobre 2019. escholarship.org
- Université de Californie à Berkeley, « Widely used health care prediction algorithm biased against black people », 24 octobre 2019. news.berkeley.edu
- Princeton University, RRAPP, « Algorithms Can Replicate or Remedy Racial Biases in Healthcare Resource Allocation ». rrapp.spia.princeton.edu
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Me prêter une main
En 2011, un menuisier sud-africain perdit des doigts dans un accident. Avec un inconnu des États-Unis, il inventa une main mécanique, puis la donna au monde entier.
LireMettre les oubliés sur la carte
En février 2016, à Paris, une soixantaine de bénévoles tracèrent en trois heures plus de 4 000 bâtiments en Ouganda. Une simple soirée devant un ordinateur peut aider à soigner.
LireLe téléphone branché sur le vent
Au Japon, dans un jardin, un vieux téléphone n'est relié à aucun réseau. Depuis le tsunami de 2011, des milliers de personnes viennent y parler à ceux qu'elles ont perdus.
Lire