Moins de deux mois après que l’administration Biden a publié son vaste décret sur l’intelligence artificielle, la Maison Blanche a annoncé jeudi de nouveaux engagements en faveur de la transparence, de la gestion des risques et de la responsabilité de l’IA de la part de plus de deux douzaines d’organisations de soins de santé de premier plan.
POURQUOI EST-CE IMPORTANT
L’EO de la Maison Blanche, qui a été publié le 30 octobre et contient un large éventail de dispositions axées sur une IA « sûre, sécurisée et digne de confiance » dans de nombreux secteurs de l’économie, contient plusieurs dispositions spécifiques aux soins de santé dans ses près de 20 000 mots. Plus particulièrement, il ordonne au ministère américain de la Santé et des Services sociaux de mettre en place un mécanisme pour recueillir les rapports sur « les préjudices ou les pratiques de soins de santé dangereuses ».
Le 14 décembre – coïncidant avec la journée inaugurale du HIMSS AI in Healthcare Forum à San Diego – l’administration Biden a annoncé de nouveaux engagements volontaires de la part du secteur privé concernant la sûreté et la sécurité de l’IA dans les soins de santé.
Plus précisément, une cohorte de 28 fournisseurs et payeurs ont annoncé aujourd’hui des engagements volontaires en faveur d’une utilisation, d’un achat et d’une utilisation plus transparents et plus fiables des outils basés sur l’IA, ainsi que des efforts pour développer leurs modèles de machines de manière plus responsable. Ils sont:
-
Allina Santé
-
Réseau de santé Bassett
-
Hôpital pour enfants de Boston
-
Curaï Santé
-
CVS Santé
-
Santé dévouée
-
Duc Santé
-
Emory Santé
-
Effort Santé
-
Systèmes de santé Fairview
-
Geisinger
-
Méridien Hackensack
-
HealthFirst (Floride)
-
Méthodiste de Houston
-
Santé de John Muir
-
Médecine Keck
-
Santé de la ligne principale
-
Messe du général Brigham
-
Université médicale de Caroline du Sud
-
Oscar Santé
-
OSF Soins de santé
-
Croix Bleue Premera
-
Système universitaire Rush pour la santé
-
Santé Sanford
-
Médecine des touffes
-
Santé de l’UC San Diego
-
Santé de l’UC Davis
-
Santé WellSpan
« Les engagements reçus aujourd’hui serviront à aligner l’action de l’industrie en matière d’IA sur les principes « FAVES » – selon lesquels l’IA doit conduire à des résultats de santé qui sont équitables, appropriés, valides, efficaces et sûrs », a déclaré la conseillère économique nationale Lael Brainard ; La conseillère en politique intérieure Neera Tanden et le directeur du Bureau de la politique scientifique et technologique Arati Prabhakar en annonçant le nouvel engagement de ces organisations de premier plan.
Dans le cadre de cet accord, les établissements de santé ont promis :
-
Informer les patients et les clients de la nécessité de leur montrer du contenu essentiellement généré par l’IA et non révisé ou modifié par des personnes.
-
Adopter et adhérer à un cadre de gestion des risques pour l’utilisation d’applications basées sur l’IA, qui les aidera à surveiller et à atténuer les dommages potentiels.
-
Étudier et développer de nouvelles approches de l’IA qui « font progresser l’équité en santé, élargissent l’accès aux soins, rendent les soins abordables, coordonnent les soins pour améliorer les résultats, réduisent l’épuisement professionnel des cliniciens et améliorent autrement l’expérience des patients ».
LA PLUS GRANDE TENDANCE
Les nouveaux engagements interviennent au cours d’une semaine chargée d’actualités pour l’IA dans le domaine de la santé. Mercredi, le Bureau du coordinateur national pour l’informatique de la santé a publié sa règle finale sur les données de santé, la technologie et l’interopérabilité : mises à jour du programme de certification, transparence des algorithmes et partage d’informations, ou HTI-1.
Parmi d’autres dispositions axées sur l’interopérabilité et le blocage des informations, les réglementations très attendues mettent particulièrement l’accent sur la transparence des algorithmes d’IA. Ils incluent des exigences selon lesquelles les algorithmes prédictifs inclus dans les technologies de l’information certifiées en matière de santé « permettent aux utilisateurs cliniques d’accéder à un ensemble cohérent et de base d’informations sur les algorithmes qu’ils utilisent pour soutenir leur prise de décision et pour évaluer ces algorithmes en termes d’équité, de pertinence, de validité et d’efficacité ». et la sécurité », selon l’ONC.
Pendant ce temps, à San Diego, des centaines de leaders cliniques et technologiques sont actuellement réunis au HIMSS AI in Healthcare Forum pour explorer les promesses et les risques de l’intelligence artificielle dans toutes ses manifestations – en se concentrant sur les défis et les opportunités liés à la réglementation, à la sécurité des patients, à la confidentialité et à la sécurité. , l’explicabilité et bien d’autres impératifs. Revenez sur Healthcare IT News dans les jours et les semaines à venir pour plus de couverture et de vidéos de l’émission.
SUR LE DOSSIER
« Nous devons rester vigilants pour réaliser la promesse de l’IA en matière d’amélioration des résultats en matière de santé », ont déclaré les responsables de la Maison Blanche en vantant les nouvelles promesses des organismes de santé. « Sans tests appropriés, sans atténuation des risques et sans surveillance humaine, les outils basés sur l’IA utilisés pour les décisions cliniques peuvent commettre des erreurs qui sont au mieux coûteuses – et au pire dangereuses.
« Les engagements du secteur privé annoncés aujourd’hui constituent une étape cruciale dans nos efforts à l’échelle de la société pour faire progresser l’IA pour la santé et le bien-être des Américains », ont-ils ajouté. « Ces 28 prestataires et payeurs se sont mobilisés, et nous espérons que d’autres se joindront à ces engagements dans les semaines à venir. »
Mike Miliard est rédacteur en chef de Healthcare IT News
Envoyez un e-mail à l’auteur : mike.miliard@himssmedia.com
Healthcare IT News est une publication HIMSS.