Ubuntu QuotidienFil 02 · Technologie et déshumanisation · 25 septembre 2026
Mesurer la maladie en dollars
Un algorithme de santé américain jugeait les besoins des patients à leurs dépenses passées ; les patients noirs, moins soignés, semblaient donc moins malades.
1 · La scène
Dans la salle d'attente d'une clinique de Montréal-Nord, Ginette, préposée aux bénéficiaires, jase avec sa voisine de siège. Elle n'a pas vu de médecin depuis quatre ans : deux emplois, pas de temps, pas de médecin de famille.
« Au moins, je ne coûte pas cher au système », dit-elle en riant. Sa voisine ne rit pas. Coûter peu, ce n'est pas la même chose qu'aller bien.
Vignette originale
2 · Le cas documenté
L'algorithme qui confondait coûts et besoins
Le 25 octobre 2019, la revue Science publie l'étude de Ziad Obermeyer, Brian Powers, Christine Vogeli et Sendhil Mullainathan. Ils examinent un algorithme commercial largement utilisé par des systèmes de santé américains pour repérer les patients aux besoins complexes et leur offrir un suivi supplémentaire. Selon les chercheurs, cette catégorie d'outils influence des décisions pour plus de 100 millions d'Américains.
En analysant les dossiers de 43 539 patients blancs et de 6 079 patients noirs d'un grand hôpital universitaire, ils constatent qu'à score de risque égal, les patients noirs sont nettement plus malades. La raison : l'algorithme prédit les dépenses de santé futures, pas la maladie. Or, à cause d'un accès inégal aux soins, on dépense moins pour soigner les patients noirs. Moins de dépenses passées donnait l'illusion de moins de besoins.
Corriger ce biais ferait passer la part des patients noirs qui reçoivent une aide supplémentaire de 17,7 % à 46,5 %. Mieux encore : les chercheurs ont travaillé avec le fabricant, qui a confirmé leurs résultats. Ensemble, ils ont montré qu'en tenant compte des besoins de santé réels, on réduit le biais racial de 84 %.
La machine n'était pas méchante ; elle avait appris d'un monde inégal. Et quand des chercheurs et une entreprise acceptent de regarder le problème ensemble, la correction devient possible.
3 · La voix
« Les algorithmes, en eux-mêmes, ne sont ni bons ni mauvais. »
4 · La question
Dans nos propres chiffres, au travail comme dans nos services publics, qu'est-ce qui mesure vraiment les besoins d'une personne, et qu'est-ce qui mesure seulement ce qu'on lui a déjà donné ?
Sources
- Z. Obermeyer, B. Powers, C. Vogeli et S. Mullainathan, « Dissecting racial bias in an algorithm used to manage the health of populations », Science, vol. 366, 25 octobre 2019. escholarship.org
- Université de Californie à Berkeley, « Widely used health care prediction algorithm biased against black people », 24 octobre 2019. news.berkeley.edu
- Princeton University, RRAPP, « Algorithms Can Replicate or Remedy Racial Biases in Healthcare Resource Allocation ». rrapp.spia.princeton.edu
Chaque donnée de cette page renvoie à une source publique vérifiable.
Mots-clés
À lire aussi
Un même souffle
Des crânes de Morton aux spiromètres « corrigés » selon la race, la science a longtemps servi la hiérarchie ; elle apprend aujourd'hui à s'en défaire.
LireLa solitude, un enjeu de santé publique
Les écrans promettent le lien et livrent souvent l'isolement. L'Ubuntu rappelle qu'on devient quelqu'un en présence des autres.
LireLes rouages invisibles : la douleur qu'on ne croit pas
De fausses croyances sur le corps des personnes noires circulent encore en médecine. Elles changent la façon dont on mesure leur douleur.
Lire