Dans des milliers d'hôpitaux américains, des algorithmes sont utilisés pour identifier les patients les plus à risque et leur apporter un suivi poussé. Mais ces algorithmes, ont rapporté jeudi des chercheurs dans la revue Science, privilégient les Blancs aux Noirs.

Ziad Obermeyer, de l'université de Californie à Berkeley, raconte être presque tombé par hasard sur cette découverte, en analysant avec des collègues les données fournies par un grand hôpital universitaire, non nommé.

L'hôpital calculait, grâce à un algorithme standard en santé publique, un "score de risque" et sélectionnait les 3% des patients les plus malades ou vulnérables (diabète, insuffisance cardiaque, emphysème...), qui pouvaient ensuite appeler un numéro dédié, obtenir des rendez-vous le même jour ou être suivis à domicile.

"Sur deux patients, un Noir et un Blanc, avec exactement le même score, le patient noir était en réalité plus susceptible d'avoir plus de problèmes de santé au cours de l'année suivante que le patient blanc", explique Ziad Obermeyer.

"Des patients blancs doublent des patients noirs plus malades pour entrer dans le programme", dit-il.

L'algorithme ne prenait pas en compte la "race", comme disent les Américains, la couleur de la peau.

Le problème réel du programme est qu'il sous-estimait l'état de santé des patients noirs parce qu'il se fondait uniquement sur les coûts des soins générés dans le passé par les patients.

Or, "les patients noirs, en moyenne, génèrent moins de coûts que les patients blancs qui ont le même niveau de santé", dit Ziad Obermeyer. C'est le fruit d'inégalités profondément ancrées qui font que les Noirs vont moins souvent chez le médecin, et que lorsqu'il s'y rendent, les médecins ordonnent moins d'analyses ou de soins.

"On a cette illusion qu'on travaille avec des variables biologiques qui décrivent la physiologie de façon objective", poursuit-il. En réalité, toutes les données de l'algorithme se fondent sur les transactions financières entre l'hôpital et les assurances.

C'est le défaut originel de ces algorithmes.

La société qui commercialise le logiciel a accepté une suggestion des chercheurs pour réduire de plus de 80% le déséquilibre racial.

Mais comme le souligne Ziad Obermeyer, changer le code des algorithmes n'est que la première étape: il faudrait construire des bases de données qui s'intéressent en premier lieu à l'état de santé réel des patients.

"Il est vraiment étrange que la source majeure de données sur la médecine vienne de transactions financières", conclut le chercheur. "Le système de santé ne prend pas au sérieux le besoin d'acquérir des données de santé de qualité. Les informations qu'on a sur la santé des gens sont presque accidentelles".

Dissecting racial bias in an algorithm used to manage the health of populations