Présentation de deux rapports sur l’IA et le machine learning appliqués au domaine de la santé

Le 30 avril dernier se tenait un webinar organisé par l’Académie Nationale de Médecine (NAM) en partenariat avec le GAO (Gogvernment Accountability Office, organisme d’audit et d’évaluation du Congrès américain) et en particulier l’équipe Science, Technology Assessment, and Analytics créée en janvier 2019. Cette dernière intervient notamment en soutien du Congrès en produisant des rapports d’évaluation de différentes technologies et en apportant une expertise technique. Différents audits sont réalisés en s’appuyant sur les bonnes pratiques et méthodologies scientifiques d’évaluation. [1]

Le premier rapport, publié par la NAM en décembre 2019 [2], détaille les solutions d’IA actuelles et à court-terme en soulignant les obstacles à surmonter et les limites dans le développement de ces outils ainsi que les bonnes pratiques à adopter. Le document parle également du cadre légal autour de l’IA pour les applications médicales en mettant l’accent sur la nécessité de créer une IA équitable, inclusive. Pour cela, il préconise une approche basée sur les Droits de l’Homme (human rights lens).

Le second rapport du GAO [3] se focalise plus particulièrement sur l’utilisation des algorithmes dits d’apprentissage machine (machine learning ou ML) dans le développement de médicaments et les avantages qu’ils peuvent présenter. Cette publication décrit les cas d’usage du ML à différents stades du processus de développement médicamenteux (de la découverte, aux recherches précliniques, essais cliniques jusqu’à la validation par la FDA), tout en se focalisant sur les options et choix politiques qui s’offrent au législateur pour favoriser ces avancées.

« Il ne s’agit pas de savoir s’il faut utiliser ces outils mais de comment »

En prélude de ces présentations et des discussions, Timothy Persons, scientifique en chef au GAO et directeur du Science, Technology Assessment, and Analytics Team rappelait que ce sont plus de $6000 milliards de dollar de dépenses de santé qui sont prévues chaque année à l’horizon 2027 et ce avant même la pandémie de COVID-19.

Comme il l’explique, le système de santé américain traverse un moment charnière caractérisé notamment par un changement démographique important (vieillissement de la population), un nombre croissant d’études liées à la résistance aux antibiotiques comme cause de mortalité [4] et un système qui n’est tout simplement pas soutenable dans l’état.

Face à cette situation, des mesures s’imposent dans le domaine pharmaceutique où le processus de développement des médicaments et traitements est jugé trop coûteux financièrement et dans le temps. Tirer parti des avancées en IA s’impose comme nécessaire pour pouvoir fournir des services de santé de qualité et de manière efficace sans pour autant oublier les défis que cette technologie pose sur le plan éthique.

Egalité de traitement et problème de données

Un des thèmes importants évoqué lors du webinar était bien sûr la question des inégalités. Si l’IA permet d’espérer des économies d’échelle grâce à l’automatisation de certaines tâches, elle ouvre également la porte à une systématisation de certains biais avec un risque de discrimination entre patients.

Pour y remédier, la question des données utilisées pour l’apprentissage des algorithmes est clée. Il est nécessaire d’assurer que ces données soient représentatives de l’ensemble de la population et pas uniquement de quelques franges. Les coûts et difficultés d’accès aux données de santé pour certains chercheurs participent également au creusement des inégalités.

Sur ce point, Michael Matheny (du Medical Center de l’université Vanderbilt) et Sonoo Thadaney-Israni (Stanford), co-auteurs du premier rapport, ont notamment évoqué la nécessité de changer de paradigme dans les priorités du système de santé: dépasser la vision triple aim (centrée sur l’expérience du patient, la santé de la population, la réduction des coûts) pour y intégrer deux facteurs supplémentaires que sont le bien-être des personnels de santé et la dimension d’équité et d’inclusion (quintuple aim). 

Culture, leadership et formation

En lien avec ces questions, les enjeux de formation des professionels de santé aux outils de l’IA ont également été discutés. A tous les niveaux, des cadres de direction aux équipes opérationnelles, il est essentiel que tous puissent se familiariser aux changements culturel et organisationnel qui accompagnent l’utilisation des nouvelles technologies. Cela passe notamment par l’implication dès le départ des utilisateurs finaux dans le processus de conception des outils, rappelle Jack Resneck, de l’Association Médicale Américaine.

Dans ce cadre, la formation par l’expérimentation est une piste à creuser. Gil Alterovitz, directeur de l’institut national sur l’intelligence artificielle (NAII) au sein du Département des Anciens combattants (US Department of Veterans Affairs), a par exemple évoqué le lancement d’un prix de l’innovation en IA (Government Innovation Awards) en collaboration avec des partenaires du public, du privé et de la communauté scientifique. A travers ce prix, différentes organisations ont pu travaillé sur des problématiques de santé concrètes en partenariat avec les praticiens. L’association d’étudiants Girls Computing League, qui milite entre autre pour une plus grande diversité dans le monde de la tech (meilleure représentation des femmes et des minorités), s’est ainsi distingué en cherchant à utiliser de l’IA pour améliorer la recherche de participants pour les essais cliniques.

Attention cependant, à ne pas tomber dans l’excès de projets pilotes (pilot-itis), avertit Marelize Gorgens, spécialiste en IA et sciences décisionnelles à la Banque Mondiale. En effet, 228 projets de solutions numériques en santé ont été identifiés et 40% seulement étaient connus du gouvernement alors qu’il est censé en avoir la responsabilité. Cet exemple démontre le besoin de consolidation et d’intégration à opérer au sein des organisations et la nécessité d’en finir avec la mentalité en silo et la fragmentation si l’on veut pleinement tirer avantage des nouveaux outils qui s’offrent à nous.

[1] https://www.gao.gov/technology_and_science

[2] https://nam.edu/artificial-intelligence-special-publication/

[3] https://www.gao.gov/products/GAO-20-215SP

[4] https://www.gao.gov/products/GAO-20-341

Rédacteur : 

Kevin KOK HEANG, Attaché adjoint pour la Science et la Technologie, [email protected]