Les agences fédérales comme le FDA et HHS ont établi des programmes de sécurité pour garantir une utilisation sûre et fiable de l’intelligence artificielle dans divers secteurs, y compris la santé.
Les responsables de la santé numérique ont relayé leurs recommandations, conseils et suggestions aux régulateurs configurant les règles autour de l’utilisation de l’IA dans les soins de santé pour MobiHealthActualitésnotamment en signalant le contenu généré par l’IA et en s’appuyant sur les cadres réglementaires existants.
Ann Bilyew, vice-présidente directrice, directrice générale de la santé et du groupe, WebMD Enflammer
« N’en faites pas trop. La plupart des protections dont nous avons besoin existent déjà dans des réglementations préexistantes comme la HIPAA aux États-Unis et le RGPD en Europe. Certaines réglementations spécifiques devront peut-être être modifiées ou révisées, mais les cadres sont là.
Sam Glassenberg, PDG et fondateur de Niveau EX
« Le contenu généré par l’IA doit être soumis aux mêmes normes que tout autre contenu dans le domaine de la santé (examen par les pairs, données/citations transparentes, etc.) – avec une mise en garde majeure. Le contenu généré par l’IA doit toujours être signalé comme tel. C’est crucial que dans tout processus d’examen de contenu, si le contenu est généré par l’IA, il doivent être signalés comme générés par l’IA à tous les évaluateurs.
Les rédacteurs humains peuvent commettre des erreurs de copie ou mal comprendre un concept, etc., mais s’ils ne comprennent pas un concept, ils éviteront probablement d’écrire de manière trop approfondie ou trop détaillée. GenAI est le contraire : il produira des informations médicales complètement incorrectes et incroyablement détaillées. Si les références ou les données n’existent pas, il les inventera – en développant des informations incorrectes qui rendront son contenu plus crédible au détriment de l’exactitude. Il est crucial que dans tout processus de révision de contenu, si le contenu est généré par l’IA, il doit être signalé comme généré par l’IA à tous les évaluateurs.
Kevin McRaith, président et chef de la direction de Welldoc
« Premièrement, les régulateurs devront se mettre d’accord sur les contrôles requis pour intégrer l’IA de manière sûre et efficace dans les nombreuses facettes des soins de santé, en tenant compte des risques et des bonnes pratiques de fabrication.
Deuxièmement, les régulateurs doivent aller au-delà des contrôles pour fournir à l’industrie des lignes directrices qui rendent viables et réalisables les tests et la mise en œuvre par les entreprises dans des contextes réels. Cela contribuera à soutenir l’innovation, la découverte et la nécessaire évolution de l’IA. »
Amit Khanna, vice-président principal et directeur général de la santé chez Force de vente
« Nous avons besoin que les régulateurs définissent et fixent des limites claires en matière de données et de confidentialité tout en permettant à la technologie de transformer le secteur. Les régulateurs doivent garantir que les réglementations ne créent pas de jardins clos/silos dans le domaine des soins de santé, mais minimisent plutôt les risques tout en permettant à l’IA de fonctionner. réduire le coût de la détection, de la prestation des soins et de la recherche et développement.
Dr Peter Bonis, médecin-chef de Wolters Kluwer Santé
« Le décret sur le développement et l’utilisation sûrs, sécurisés et fiables de l’intelligence artificielle a superposé un ensemble de directives à diverses agences fédérales pour établir des réglementations sur l’IA. Ces directives doivent être considérées dans le contexte d’un cadre réglementaire existant qui affecte une variété de domaines. applications de soins de santé. La clarté et la navigabilité seront cruciales pour parvenir à un équilibre qui crée un ensemble constructif d’orientations réglementaires qui n’étouffent pas l’innovation. Les agences fédérales qui élaborent de telles politiques devraient le faire de manière transparente, avec la participation du public et d’autres parties prenantes et, de manière cruciale, avec une riche collaboration inter-agences.
Eran Orr, PDG de XRSanté
« Les patients doivent savoir dès le début quand quelque chose est basé sur l’IA et non un véritable clinicien. Lorsque tel est le cas, les patients doivent être pleinement informés. L’industrie doit combler le fossé par rapport à là où nous en sommes aujourd’hui en termes d’IA. outils ; cependant, les soins de santé n’ont pas droit à l’erreur : ils doivent être totalement fiables dès le début. »
