L’intégration rapide de l’intelligence artificielle (IA) dans les soins de santé soulève des préoccupations quant à son équité. Une étude récente met en lumière la variabilité des recommandations thérapeutiques émises par des modèles d’IA générative pour une même condition médicale, influencée par le contexte socio-économique et démographique du patient.
L’étude a sollicité 9 IA concernant 1.000 cas des services d’urgence, chacun décliné en 32 contextes patients distincts, générant plus de 1,7 million de recommandations. Les résultats ont révélé que, malgré des données cliniques identiques, les modèles d’IA pouvaient modifier leurs décisions en fonction du profil socio-économique et démographique, affectant la priorité au triage, les investigations diagnostiques, l’approche thérapeutique et l’évaluation de la santé mentale. Les IA avaient, notamment, tendance à intensifier les recommandations en santé mentale selon les données démographiques plutôt que par nécessité médicale.
De plus, l’accès à des examens diagnostiques avancés, tels que les tomodensitométries ou les imageries par résonance magnétique, était plus fréquent chez les patients à revenus élevés, tandis que les patients à faibles revenus étaient plus souvent orientés vers l’absence d’investigations complémentaires.
Pour les auteurs, il est impératif de procéder à une surveillance accrue dans un cadre rigoureux pour assurer la fiabilité de l’IA et concevoir des outils justes et fiables. La validation des performances de l’IA par rapport aux normes cliniques et l’intégration du retour d’experts sont des éléments clés de cette approche proactive. Des recherches futures intégreront des tests dans la vie réelle. Ceci permettra d’évaluer l’impact de différentes techniques d’incitation sur la réduction des biais.
La collaboration interinstitutionnelle est indispensable, selon les auteurs, afin d’améliorer les outils d’IA et garantir le respect des valeurs éthiques ainsi qu’un traitement équitable pour tous les patients.
