Fil 02 · Technologie et déshumanisation · 25 septembre 2026 · 2 min de lecture

Mesurer la maladie en dollars

Un algorithme de santé américain jugeait les besoins des patients à leurs dépenses passées. Les patients noirs, moins soignés, semblaient donc moins malades.

Corridor on the second level - NÄL hospital 1
Photo : Corridor on the second level - NÄL hospital 1 · W.carter · CC0 · via Wikimedia Commons

Le grenier à récits

C'était dans la salle d'attente d'une clinique de Montréal-Nord.

Ginette, préposée aux bénéficiaires, jasait avec sa voisine de siège. Elle n'avait pas vu de médecin depuis quatre ans. Deux emplois, pas de temps, pas de médecin de famille.

« Au moins, je ne coûte pas cher au système », dit-elle en riant. Sa voisine ne rit pas.

(Cette scène est inventée. Ce qui suit ne l'est pas.)

Coûter peu, ce n'est pas la même chose qu'aller bien. Un algorithme a pourtant confondu ces deux choses.

Le 25 octobre 2019, la revue Science publia l'étude de quatre chercheurs : Ziad Obermeyer, Brian Powers, Christine Vogeli et Sendhil Mullainathan.

Ils avaient examiné un algorithme commercial largement utilisé par des systèmes de santé américains. Son rôle : repérer les patients aux besoins complexes, pour leur offrir un suivi supplémentaire.

Selon les chercheurs, ce genre d'outils influence des décisions pour plus de 100 millions d'Américains.

Ils analysèrent les dossiers de 43 539 patients blancs et de 6 079 patients noirs d'un grand hôpital universitaire.

Leur constat : à score de risque égal, les patients noirs étaient nettement plus malades.

Pourquoi ? L'algorithme prédisait les dépenses de santé futures. Pas la maladie.

Or, à cause d'un accès inégal aux soins, on dépense moins pour soigner les patients noirs.

Moins de dépenses passées donnait l'illusion de moins de besoins.

Imaginez qu'on mesure la soif de quelqu'un au nombre de verres qu'on lui a déjà servis.

Celui qu'on a oublié semblera toujours moins assoiffé.

Corriger ce biais ferait passer la part des patients noirs qui reçoivent une aide supplémentaire de 17,7 % à 46,5 %.

Les chercheurs ne s'arrêtèrent pas au constat. Ils travaillèrent avec le fabricant, qui confirma leurs résultats.

Ensemble, ils montrèrent qu'en tenant compte des besoins de santé réels, on réduisait le biais racial de 84 %.

L'un d'eux, l'économiste Sendhil Mullainathan, le rappela :

« Les algorithmes, en eux-mêmes, ne sont ni bons ni mauvais. »
Sendhil Mullainathan, économiste et coauteur de l'étude, 2019 (traduction libre)

La machine n'était pas méchante. Elle avait appris d'un monde inégal.

Les chiffres d'une société racontent comment elle a pris soin des siens. L'Ubuntu nous dit que nous existons les uns par les autres : quand des chercheurs et une entreprise regardent le problème ensemble, la correction devient possible, pour nous tous.

Un chiffre ne dit pas seulement ce dont une personne a besoin. Il dit aussi ce qu'on lui a donné, ou refusé.

Aujourd'hui, quelque part, quelqu'un semble « coûter peu ». Peut-être faut-il lui demander comment il va.

Et vous ?

Dans nos propres chiffres, au travail comme dans nos services publics, qu'est-ce qui mesure vraiment les besoins d'une personne, et qu'est-ce qui mesure seulement ce qu'on lui a déjà donné ?

Faire voyager ce récit

Chiffres

17,7 % → 46,5 %part des patients noirs aidés, une fois le biais corrigé
84 %réduction du biais obtenue avec le fabricant
100 millions+Américains touchés par ce type d'algorithme

Sources

  1. Z. Obermeyer, B. Powers, C. Vogeli et S. Mullainathan, « Dissecting racial bias in an algorithm used to manage the health of populations », Science, vol. 366, 25 octobre 2019. escholarship.org
  2. Université de Californie à Berkeley, « Widely used health care prediction algorithm biased against black people », 24 octobre 2019. news.berkeley.edu
  3. Princeton University, RRAPP, « Algorithms Can Replicate or Remedy Racial Biases in Healthcare Resource Allocation ». rrapp.spia.princeton.edu

Chaque donnée de cette page renvoie à une source publique vérifiable.

Mots-clés

À lire aussi

Fil 02

Me prêter une main

En 2011, un menuisier sud-africain perdit des doigts dans un accident. Avec un inconnu des États-Unis, il inventa une main mécanique, puis la donna au monde entier.

Lire
Fil 02

Mettre les oubliés sur la carte

En février 2016, à Paris, une soixantaine de bénévoles tracèrent en trois heures plus de 4 000 bâtiments en Ouganda. Une simple soirée devant un ordinateur peut aider à soigner.

Lire
Fil 02

Le téléphone branché sur le vent

Au Japon, dans un jardin, un vieux téléphone n'est relié à aucun réseau. Depuis le tsunami de 2011, des milliers de personnes viennent y parler à ceux qu'elles ont perdus.

Lire

L’article du jour

Recevez chaque récit par courriel.

Un récit vrai par jour, gratuit et sans publicité.

Ou suivez le flux RSS.