Romain Pirracchio, pouvez-vous nous donner un aperçu de votre parcours, depuis votre thèse de Médecine à Paris, vos années passées à San Francisco, jusqu’à votre poste actuel en tant que rédacteur spécialisé en Intelligence Artificielle (IA) et Apprentissage Automatique pour JAMA ? A quoi ressemble votre quotidien aujourd’hui ? 

Je suis médecin spécialisé en anesthésie et réanimation au sein du département d’anesthésie de l’Université de Californie à San Francisco (UCSF). Je suis à la fois chef du département d’anesthésie de médecine périopératoire au Zuckerberg San Francisco General Hospital et professeur de biostatistiques et de médecine de précision (computationnelle).

Je pilote également diverses initiatives de recherche et de déploiement d’outils d’IA à UCSF, en plus de mon rôle d’éditeur associé pour le journal JAMA, sur les sujets de statistique et d’IA.

Je suis profondément passionné de médecine, depuis tout petit. Mes études ont débuté à l’Université Paris 7 Diderot, où j’ai réalisé un internat en anesthésie et réanimation.

J’ai rapidement développé un intérêt pour la recherche et le monde académique : j’ai obtenu un master puis une thèse de sciences en biostatistiques. Mon désir de recherche m’a conduit à réaliser un post-doctorat au département de biostatistiques de l’Université de Californie à Berkeley. Cette expérience a été déterminante, me permettant d’établir mes premiers contacts dans la Baie de San Francisco.

Au fil des années, j’ai consolidé mes compétences tant sur le plan clinique que dans le domaine de la recherche. En 2010, j’ai rejoint l’Hôpital Georges Pompidou à Paris, où j’ai occupé divers postes, de responsable de la réanimation à professeur, puis chef de service. En 2015, un séjour en tant que professeur invité aux États-Unis a renforcé mes liens avec UCSF et UC Berkeley. En 2018, j’ai pris la décision de revenir à UCSF, où je pilote diverses initiatives de recherche et de déploiement d’outils d’IA. La médecine reste le point d’ancrage de toutes mes activités, je reste au quotidien médecin clinicien, au bloc opératoire et en réanimation. C’est cette activité qui alimente chacun de mes champs de recherche.

En quoi consiste plus précisément votre activité de déploiement d’outils d’IA à UCSF ?

Cela implique de préparer UCSF à déployer des outils d’IA. Il peut s’agir aussi bien d’outils d’aide à la décision que d’outils prédictifs par exemple. Nous effectuons un travail en profondeur pour préparer l’institution à cette transition. 

Devenir « prêt pour l’IA » est un concept dont nous commençons à peine à comprendre l’ampleur. La définition même de ce que cela signifie, et ce qu’il faut pour être prêt à déployer de l’IA, est encore en cours de clarification.

Le fait est que malgré les nombreuses activités en IA et en apprentissage automatique qui ont vu le jour ces 15 à 20 dernières années, l’accent a toujours été principalement mis sur la recherche et le développement, et très peu sur l’intégration et la validation de ces solutions en conditions réelles. Nous sommes désormais confrontés à l’essentiel du sujet. La réalité n’est pas aussi simple que du « plug and play ».

Pour être prêts à cela, nos systèmes de santé doivent s’adapter en profondeur. Cela englobe des aspects techniques, qui sont des prérequis indispensables sur lesquels nous sommes relativement prêts a priori. Mais il y a aussi des aspects beaucoup plus complexes, notamment l’évaluation de l’intégration de ces outils dans les processus de soin et leur impact sur les patients, les processus et le personnel, avec toutes les implications que cela comporte.

Entre ces deux aspects, il y a des dizaines d’autres considérations : la gouvernance, l’évaluation, la définition des priorités, la surveillance, le financement, l’évaluation du rendement, la prestation des soins etc. Tout cela doit être repensé en profondeur, dans un contexte loin d’être simple. Les gens ont travaillé sur ces sujets en recherche depuis 10 ans, développant de manière très organique des pièces importantes du puzzle mais sans coordination ni orchestration du projet global. 

Ainsi, nous partons d’une situation qui est presque plus complexe qu’une page blanche, d’une structure fragmentée composée de petites entités qui n’ont pas eu l’habitude de travailler ensemble à la base. Mon rôle consiste à donner un sens à tout cela, à aligner et orchestrer ces entités pour les faire fonctionner ensemble, en identifiant les chevauchements, les lacunes, les synergies et les antagonismes, et à les intégrer dans un processus opérationnel cohérent.

Il s’agit d’un travail de grande envergure. Ce projet implique la mobilisation de nombreuses équipes, chacune avec son histoire et son développement, et ayant des intérêts très convergents mais pas nécessairement synergiques. Dans ce contexte, l’avantage que nous avons réside dans l’engagement des trois autorités principales avec lesquelles nous travaillons : le chancelier, qui représente l’autorité académique suprême de l’université, le CEO du système de soins, en tant qu’autorité prééminente dans le domaine de la santé, et le Doyen de l’école de médecine. Ces trois instances à UCSF se sont réunies et ont clairement déclaré que la collaboration et l’élaboration d’un plan stratégique pour le développement de l’IA constituent la priorité absolue pour les années à venir. Cette mission, définie de manière formelle par les plus hautes autorités, nous offre une feuille de route cruciale pour orienter nos efforts. Il s’agit d’une coordination délicate et essentielle pour que l’IA bénéficie pleinement aux patients et à notre institution.

En tant que médecin clinicien, pouvez-vous nous préciser en quoi consiste la médecine clinique, et nous expliquer en quoi le développement de l’IA générative accessible à tous modifierait le paysage de cette profession ?  

L’activité clinique peut être définie comme une interaction directe entre un professionnel de la santé et un patient. Cette dimension diffère des autres activités médicales qui, bien qu’appartenant au domaine médical, sont plus éloignées du patient. Par exemple, un spécialiste en microbiologie travaille dans le domaine médical mais n’a pas souvent de contact direct avec le patient, sauf s’il s’agit d’un microbiologiste clinique.

Ma réponse à cette question, peut-être un brin provocatrice, serait la suivante : peut-être cette profession sera-t-elle un jour transformée en profondeur par l’IA générative, mais certainement pas pour l’instant. À l’heure actuelle, je pense qu’il y a beaucoup de fantasmes autour de l’impact de l’IA générative sur la relation patient-médecin et la pratique quotidienne des cliniciens. Certes, il est stimulant de spéculer sur l’avenir, car cela nous pousse à imaginer les évolutions futures. Il est indéniable qu’il existe un potentiel pour un changement, et de toute façon, le changement est inévitable dans l’histoire de la médecine, tout comme dans d’autres disciplines.

Lorsque j’ai commencé ma carrière de médecin, c’était à une époque où les examens complémentaires comme la biologie et la radiologie devenaient beaucoup plus accessibles en routine. Dans les années 90, ces avancées sont devenues extrêmement industrialisées, passant de délais d’une semaine à seulement quelques minutes pour obtenir les résultats de la plupart des examens complémentaires. À ce moment-là, il y avait des inquiétudes existentielles majeures dans le domaine médical, craignant que l’examen clinique ne soit obsolète, remplacé par des générations de médecins qui s’appuieraient uniquement sur les résultats des examens complémentaires.

Certes, nous avons intégré ces nouvelles informations de manière plus performante, ce qui nous a rendus plus efficaces dans nos diagnostics. Avec l’avènement de l’IA, nous nous apprêtons simplement à connaître l’arrivée de nouveaux paramètres, une nouvelle forme d’information. Fondamentalement, cela ne changera pas radicalement notre pratique médicale. Nous continuerons à piloter les soins, à prendre des décisions médicales et à en discuter avec nos patients. Nous aurons simplement accès à de nouvelles informations, parfois pertinentes, parfois non.

Je ne peux pas prédire ce qu’il adviendra dans 50 ans, mais il est probable que la médecine sera complètement différente de ce qu’elle est aujourd’hui, que ce soit en raison de l’AI ou d’autres avancées. Il est essentiel de replacer cela dans le contexte de l’évolution constante de la médecine.

En ce qui concerne l’IA générative par rapport à la médecine prédictive, ou à d’autres formes d’ IA médicales, il est difficile de dire laquelle de ces applications des techniques d’apprentissage machine aura le plus grand impact sur la médecine. Ce que je crois fermement, cependant, c’est que l’essor de l’IA générative, et l’intérêt qu’elle suscite en raison de ses caractéristiques et de sa facilité d’accès au grand public, va stimuler l’avancement global de l’IA en médecine. L’IA générative agit comme une locomotive pour notre domaine, incitant de nombreuses institutions à progresser dans le domaine de l’IA.

Vous interagissez certainement avec vos confrères à ce sujet, quel est, selon vous, le ressenti global de la profession au sujet du développement des technologies d’IA en santé, et notamment celui de l’IA générative ?

Il existe une variété de réactions au sein de la profession, un mélange de sentiments, presque une synthèse des différentes personnalités en termes de tolérance à l’incertitude et à la prise de risque. Certains sont très enthousiastes, tandis que d’autres adoptent une attitude plus prudente, marquée par l’anxiété face à l’inconnu.

En tant que domaine, la médecine manifeste un intérêt certain pour ces technologies. L’IA a investi tous les secteurs, mais la médecine a été relativement épargnée, en raison des enjeux très importants qui y sont liés. Les conditions préalables à l’introduction de l’IA en médecine sont considérables.

Dans le domaine médical, il y a une volonté marquée de progresser avec l’IA, tout en tenant compte des risques. Actuellement, je constate l’émergence d’une attitude plutôt pondérée à ce sujet. Finalement, le temps que la médecine a pris pour intégrer ces avancées est probablement une bonne chose, bien que cela ait été frustrant pour moi pendant de nombreuses années en tant que chercheur en IA.

Ainsi, lorsque nous serons prêts à déployer plus largement ces technologies, nous aurons déjà atteint le stade de maturité. Les risques auront été clairement définis et identifiés, et nous avons déjà compris que le déploiement en médecine ne pouvait pas se faire à un rythme effréné. La temporalité du déploiement sera différente par rapport à d’autres secteurs, et nous devons être attentifs à cela.

Pourriez-vous mettre en avant quelques exemples concrets d’applications de l’IA générative dans le domaine de la santé qui pourraient être implémentés dans un avenir plus ou moins proche ?

Il existe de nombreuses applications potentielles de l’IA générative dans le domaine de la santé. Actuellement, très peu de ces applications sont directement utilisées dans l’interaction directe avec le patient. Cependant, cela pourrait changer assez rapidement, étant donné l’intérêt croissant des entreprises travaillant dans le domaine de l’IA générative pour le secteur de la santé. Les bases sont là pour faire progresser ces initiatives de manière rapide et efficace.

Parmi les domaines d’application possibles, la génération de texte compréhensible facilitant l’interaction entre le patient et le professionnel de la santé est certainement envisageable. Il s’agit de créer rapidement un support intelligible pour différents types de patients, avec des niveaux de compréhension variés et des messages de complexité différente. Cela pourrait être particulièrement utile dans diverses interfaces de communication, tant directes qu’ indirectes.

Un aspect moins glamour mais crucial concerne la partie administrative des dossiers médicaux, leur mise en ordre, leur standardisation et la manière dont les informations seront collectées et enregistrées, y compris les notes écrites et les résumés d’hospitalisation. Les capacités de l’IA générative à générer des informations standardisées à partir de prompts sont très précieuses. Cela peut être extrêmement utile pour réinterroger ces données ultérieurement.

Une autre application intéressante serait la génération de textes ou de données synthétiques pour la recherche, en particulier des données synthétiques suffisamment réalistes pour permettre des études sans risque pour les patients, comme des études de pandémies. Par exemple, en générant un scénario de pandémie, on pourrait tester différentes hypothèses de réponse du système de santé. Bien que ces possibilités soient prometteuses, elles restent à définir plus précisément.

Quel est votre avis sur l’implication significative des GAFAM dans le secteur de la santé, en particulier en ce qui concerne les questions liées à l’IA générative ?

Il est essentiel d’établir des interactions avec ces géants de l’industrie, car ce sont des acteurs majeurs dotés de compétences et de capacités indispensables pour faire progresser notre discipline. J’ai l’opinion peut-être naïve que ces entreprises ne possèdent pas toutes les compétences nécessaires pour avancer seules dans ce domaine. Je crois que le secteur de la santé a désormais la lucidité de comprendre qu’il ne peut pas progresser en solo, qu’une collaboration positive, régulée, et responsable est nécessaire.

Il n’y a rien de fondamentalement nouveau à cela : des entreprises comme Philips, General Electric et quelques ont des places dominantes dans le domaine des dispositifs médicaux. Nous sommes habitués à interagir avec eux, même si les enjeux, notamment autour des données, sont différents. 

Nous sommes à l’intersection d’intérêts parfois divergents, mais je pense qu’il est crucial d’adopter une approche objective et de comprendre les motivations des partenaires avec lesquels nous interagissons. Cela ne signifie pas les ignorer ou les dénigrer, mais bien comprendre leurs intérêts et mettre en place des garde-fous, définir les limites à ne pas franchir.

Est-ce que demain Google ou Facebook vont dominer le domaine médical ? Non, cela n’arrivera pas. Bien sûr, ces entreprises ont des intérêts particuliers et un marché énorme à exploiter, mais il est essentiel de garder à l’esprit qu’elles ont des motivations commerciales. Notre objectif est de collaborer de manière responsable et réfléchie, en tirant parti de leurs ressources tout en veillant à ce que les intérêts des patients et de la profession médicale soient préservés.

Avez-vous remarqué des différences significatives de réactions entre la France et les États-Unis sur ce sujet, étant donné que vous êtes probablement en contact avec des personnes des deux pays ?

J’ai maintenu des contacts avec la France, ce qui me permet de sonder un peu la situation. Il est important de noter que cela ne reflète peut-être pas totalement la réalité, je tiens à le souligner.

En France, il existe un réel enthousiasme pour ces technologies, ainsi qu’une base d’experts et d’expertise internationalement reconnue dans le domaine. Cependant, j’ai l’impression qu’il y a aussi une évaluation des risques plus prudente en Europe, en particulier en France. L’attitude adoptée en Europe est assez conservatrice, notamment en ce qui concerne les données. La législation européenne sur la protection des données est l’une des plus restrictives et protectrices au monde. D’après mes discussions avec des médecins en France, cela semble constituer un frein plus important qu’aux États-Unis.

Plus précisément dans le domaine médical, une limitation majeure en France est la fragmentation importante des données médicales. Contrairement aux États-Unis, où il y a eu un travail approfondi depuis environ 15 ans pour unifier les données médicales sur des plateformes communes et standardisées, la situation en France est différente. Dans de nombreux établissements français, il existe une multitude de solutions et de points de collecte de données. Ce travail de consolidation du système de données semble encore être en cours. C’est un aspect fondamental car sans données, il n’y a pas de science des données possible.

Ce processus ne nécessite pas seulement des efforts, mais aussi des ressources financières considérables. C’est à la fois complexe et coûteux.

Nous essayons, via l’événement HealthAI, d’ouvrir la discussion sur ces sujets via des perspectives à la fois américaines et françaises. Selon vous, qu’est-ce que les états-unis ont à offrir à la France en la matière, et qu’est ce que la France a à offrir aux US ? 

J’ai l’impression que malgré tout, des deux côtés, en France et aux États-Unis, il y a une tendance à ne pas regarder beaucoup ailleurs. Mon message est simple : il y a assez peu de problèmes uniques à un endroit spécifique. Il y a simplement différents niveaux d’avancement dans les solutions, mais au fond, les problèmes sont globalement partagés par tous. Certains problèmes n’ont pas encore été résolus ici, mais des solutions ont été trouvées ailleurs.

Cela peut sembler idéaliste, voire naïf, mais je constate qu’il y a encore peu d’interactions ou de regard vers l’extérieur, peu d’apprentissage des expériences des autres. J’ai l’impression que nous réinventons souvent la roue de chaque côté, alors que nous aurions tout intérêt à apprendre les uns des autres.

Pour y remédier, il faut être plus collaboratif, construire de véritables ponts de travail entre les différents pays et universités. Il faut établir des programmes communs, des problématiques partagées, pas seulement des échanges d’étudiants, mais des programmes et des thématiques communes que nous développerions ensemble.

Tant que nous n’aurons pas ce type d’initiative commune à grande échelle, notre progression sera limitée par nos différences d’avancement sur certains points critiques. Travailler ensemble devient difficile lorsque l’un est très avancé et l’autre est en retard. Il est crucial d’être plus ou moins synchronisés dans notre approche.

Nous avons besoin d’une vision programmatique. Au sein de l’Europe, cela est beaucoup plus facile, surtout dans le domaine de la recherche, où la communauté européenne essaie d’avancer de manière synchronisée. Entre les États-Unis et la France, cela demande beaucoup de volonté des deux côtés, mais selon mon expérience, c’est essentiel pour progresser.

Merci Romain Pirracchio pour ce témoignage utile et important. Nous vous retrouverons en personne, ainsi qu’une vingtaine de panélistes venus témoigner de la transformation de leur métier par l’IA, lors de notre événement public HealthAI, les 6 et 7 décembre, à UCSF Mission Bay.

Rédactrice :

Valentine Asseman, chargée de mission pour la Science et la Technologie, Consulat Général de France à San Francisco, [email protected]