Par MIKE MAGEE
« Que signifie exactement augmenter le jugement clinique… ? »
C’est la question que se pose le professeur de droit de Stanford, Michelle Mellodemandé dans le deuxième paragraphe d’un article de mai 2023 dans JAMA explorer les limites médicales et juridiques de l’IA générative à grand modèle de langage (LLM).
Cette question cruciale a suscité un malaise parmi les dirigeants médicaux universitaires et cliniques du pays, qui vivent dans la peur constante d’être agressés financièrement (et, plus important encore, psychiquement) pour avoir porté préjudice à des patients qui se sont confiés à leurs soins.
Cet article prémonitoire a été publié un mois seulement avant la fuite d’informations sur une nouvelle offre révolutionnaire d’IA générative de Google appelée Genèse. Et cela a allumé un feu.
Marc Minévitch, un « stratège cognitif numérique hautement considéré et fiable », écrivant dans un numéro de décembre de Forbes, était à genoux dans la rédaction du numéro : « Salué comme un potentiel révolutionnaire dans tous les secteurs, Gemini combine des types de données comme jamais auparavant pour ouvrir de nouvelles possibilités en matière d’apprentissage automatique… Son nature multimodale s’appuie sur, mais va bien au-delà, ses prédécesseurs comme GPT-3.5 et GPT-4 dans sa capacité à comprendre notre monde complexe de manière dynamique.
Les professionnels de santé négocient cet espace (l’échange d’informations avec leurs patients) depuis environ un demi-siècle. Le consumérisme de la santé est apparu comme force à la fin des années soixante-dix. En une décennie, la relation patient-médecin a évolué rapidement, non seulement aux États-Unis, mais dans la plupart des sociétés démocratiques.
Cette relation précédente « le médecin dit – le patient fait » a évolué rapidement vers un partenariat mutuel alimenté par l’autonomisation de l’information sur la santé. Le meilleur patient était désormais un patient instruit. Le paternalisme doit céder la place au partenariat. Des équipes plutôt que des individus et une prise de décision mutuelle. L’émancipation a conduit à l’autonomisation, ce qui signifie un engagement informationnel.
Au début de l’échange d’informations, les patients apparaissaient littéralement avec des coupures de magazines et de journaux (et parfois du National Inquirer) et les présentaient à leurs médecins avec la question ouverte : « Que pensez-vous de cela ?
Mais en 2006, lorsque j’ai présenté une méga-analyse des tendances au Forum du président de l’AMAle pouvoir transformateur d’Internet, un système d’information distribué à l’échelle mondiale doté d’une portée et d’une pénétration extraordinaires et désormais doté de la capacité d’encourager et de faciliter la recherche personnalisée, était pleinement évident.
Parallèlement à ces nouvelles technologies émergentes, les longs séjours hospitaliers (et avec eux les consultations spécialisées internes avec des rapports de synthèse des dossiers) étaient désormais des méthodes rarement utilisées de formation continue du personnel médical. Au lieu de cela, « des lignes directrices de pratique clinique réputées représentaient une pratique fondée sur des preuves » et celles-ci ont été intégrées dans une vaste gamme de produits « d’assistance médicale » rendant les téléphones intelligents indispensables à la prestation de soins quotidiens.
Dans le même temps, une lutte de plusieurs décennies pour définir une politique relative à la vie privée des patients et financer le développement des dossiers médicaux s’est ensuivie, donnant finalement naissance à des réglementations bureaucratiques HIPPA dans son sillage.
L’émergence de l’IA générative et de nouveaux produits comme Genesis, dont les objectifs sont remarquablement flous et controversés même parmi les ingénieurs en codage spécialisés qui libèrent la force, ont créé une réalité dans laquelle (au mieux) les professionnels de la santé ont du mal à suivre leur rythme. les patients les plus motivés (et souvent les plus gravement malades). Inutile de dire que la crise sanitaire liée au Covid et l’isolement humain qu’elle a provoqué n’ont fait qu’empirer les choses.
À l’instar des directives de pratique clinique, ChatGPT trouve déjà son « journée au tribunal. » Avocats pour les deux l’accusation et la défense demanderont« si un médecin raisonnable aurait suivi (ou s’est écarté des lignes directrices dans les circonstances, et sur la fiabilité des lignes directrices » – qu’elles existent sur papier ou sur téléphone intelligent, et qu’elles soient générées par ChatGPT ou Genesis.
Les grands modèles de langage (LLM), comme les humains, fais des erreurs. Ces offres factuellement incorrectes ont été joliment étiquetées « hallucinations ». Mais en réalité, pour les professionnels de la santé, cela peut ressembler à un « trip au LSD qui a mal tourné ». Ceci est dû au fait l’information est dérivé d’une gamme de sources opaques, actuellement non transparentes, avec une grande variabilité de précision.
Ceci est très différent d’une recherche Google standard dirigée par un médecin, dans laquelle le professionnel n’ouvre que des sources fiables. Au lieu de cela, Genesis pourrait également évaluer une source du NEJM avec la version moderne du National Inquirer. Il a également été démontré que les résultats de l’IA générative varient en fonction du jour et de la syntaxe de la requête linguistique.
Les partisans de ces nouvelles applications technologiques admettent que ces outils sont actuellement problématique mais attendez-vous à ce que l’amélioration de l’IA générative, pilotée par la machine, soit rapide. Ils ont également la capacité d’être adaptés à chaque patient dans des contextes d’aide à la décision et de diagnostic, et d’offrir des conseils de traitement en temps réel. Finalement, ils informations mises à jour automatiquement en temps réel, éliminant ainsi les décalages inquiétants qui accompagnaient les directives de traitement originales.
Une chose est sûre, c’est que ce domaine attire des financements démesurés. Des experts comme Mello prédisent que les applications spécialisées vont prospérer. Comme elle l’écrit« Le problème de l’approvisionnement en informations non transparent et aveugle est résoluble, et le marché nouveautés émergent déjà à mesure que les entreprises développent des produits LLM spécifiquement pour les environnements cliniques. Ces modèles se concentrent sur des tâches plus restreintes que des systèmes comme ChatGPT, ce qui rend la validation plus facile à effectuer. Les systèmes spécialisés peuvent comparer les résultats du LLM aux articles sources sur les hallucinations, s’entraîner sur les dossiers de santé électroniques ou intégrer des éléments traditionnels de logiciels d’aide à la décision clinique.
Une question sérieuse demeure. Dans le étude dans six pays J’ai mené en 2002 (et cela n’a pas encore été répété), les patients et les médecins étaient d’accord sur le fait que la relation patient-médecin reposait sur trois choses : la compassion, la compréhension et le partenariat. Les produits d’IA générative LLM semblent clairement jouer un rôle dans l’information sur les deux derniers composants. Il reste à voir quel sera leur impact sur la compassion, qui a généralement été associée au contact face à face et chair à chair.
Mike Magee MD est un historien médical et un contributeur régulier au THCB. Il est l’auteur de CODE BLEU : À l’intérieur du complexe industriel médical américain (Bosquet/2020).
