Par MIKE MAGEE
Dans quelle mesure la communauté de la FDA et de l’éthique médicale est-elle à l’aise avec un nouveau Technologie médicale de reconnaissance faciale (mFRT) qui prétend pouvoir « identifier les premiers stades de l’autisme chez les nourrissons dès l’âge de 12 mois ? Ce test a déjà un nom : le Test d’autisme RightEye GeoPref. C’est’ Concepteur de l’UC San Diego dit qu’il était précis à 86 % en testant 400 nourrissons et jeunes enfants.
Ou que diriez-vous Face2Gene qui prétend que son outil mFRT a déjà lié la moitié des syndromes génétiques humains connus à des « schémas faciaux ?
Ou que diriez-vous que les employeurs utilisent les modèles faciaux et vocaux mFRT pour identifier les employés susceptibles de contracter un contrat ? démence précoce à l’avenir, et ajuster les trajectoires de carrière de ces personnes. Sommes-nous d’accord avec ça ?
Qu’en est-il de votre médecin qui exige AiCure vidéo mFRT pour confirmer que vous prenez réellement votre médicaments que vous dites l’être, surveillez-vous peut-être à l’avenir tout abus d’alcool ?
Et serait-il possible, même à distance, de vous identifier à partir d’un simple fragment d’image faciale, même si la majeure partie de votre visage est couverte par un masque ?
La réponse à cette dernière question est de savoir quoi DARPAle Agence des Projets de Défense Avancéetentait de répondre au printemps 2020 lorsqu’ils chercheurs financés à l’Université de Wuhan. Si tout cela vous semble familier, c’est parce que la même DARPA, quelques années plus tôt, avait discrètement financé des projets controversés. « Gain de fonction » recherche sur la réingénierie virale menée par des chercheurs chinois formés aux États-Unis dans la même université.
Le explosion pandémique quelques mois plus tard, l’ensemble de la population locale a adopté le port du masque à 100 %, ce qui en a fait un laboratoire idéal pour tester si le FRT de l’époque pouvait identifier un humain spécifique grâce à images périorbitales partielles seulement. Ils ne le pouvaient pas – du moins pas assez bien. Les études ont révélé des résultats positifs seulement 39,55 % du temps, contre 99,77 % du temps de réussite complète.
La technologie de reconnaissance faciale (FRT) remonte aux travaux d’un mathématicien et informaticien américain Woodrow Wilson Bledsoe en 1960. Ses algorithmes désormais primitifs mesuraient la distance entre les coordonnées sur le visage, enrichis par des ajustements d’exposition à la lumière, d’inclinaisons de la tête et d’ajustements tridimensionnels. Cela a déclenché un intérêt commercial étonnamment intense pour les applications potentielles, principalement de la part des clients des forces de l’ordre, de la sécurité et de l’armée.
Le monde de FRT a toujours été un monde d’affaires, mais le émergence de grands modèles de langage et de réseaux de neurones sophistiqués (comme ChatGPT-4 et Genesis) ont élargi leur audience bien au-delà de la sécurité, la participation des soins de santé étant en concurrence pour les ressources humaines et financières.
Que vous en soyez conscient ou non, vous avez été la cible du FRT. Les États-Unis possèdent le plus grand nombre de caméras en circuit fermé au monde. 15,28 par habitant, dans le monde. En moyenne, chaque Américain est filmé par une caméra en circuit fermé 238 fois par semainemais les experts disent que ce n’est rien comparé à ce que sera notre société de « surveillance » dans quelques années.
Ils sont partout – sécurité, commerce électronique, permis automobiles, banque, immigration, sécurité aéroportuaire, médias, divertissement, caméras de circulation – et maintenant les soins de santé avec les applications diagnostiques, thérapeutiques et logistiques en tête. (Ci-dessous, une photo d’un projet mobile de reconnaissance faciale en direct à l’extérieur d’un match de football à Londres en novembre 2023 : Photo, Matthew Holt)
L’apprentissage automatique et l’IA ont permis au FRT de remplacer bientôt la reconnaissance vocale, le balayage de l’iris et la prise d’empreintes digitales. Cela remonte en partie au Covid – et pas seulement aux expériences de Wuhan. FRT a permis la confirmation d’identité « sans contact » à une époque où les sociétés mondiales hésitaient naturellement à s’engager dans des contacts physiques.
Le domaine du mFRT est en feu. Recherche émergente prévoit un investissement annuel de près de 14 milliards de dollars d’ici 2028 avec un taux de croissance annuel composé de près de 16 %. La détection, l’analyse et la reconnaissance sont autant de gagnants potentiels. Il y a maintenant 277 groupes d’investisseurs organisationnels uniques offrant des « percées » en FRT avec une décennie d’expérience moyenne à leur actif.
Les noms d’entreprises ne sont peut-être pas encore familiers à tous – comme Megvii, Clear Secure, Any Vision, Clarify, Sensory, Cognitec, iProov, TrueFace, CareCom, Kairos – mais ils le seront bientôt.
La communauté de la recherche médicale s’est déjà étendue bien au-delà de la vérification « sans contact » des patients. Selon Médias HIMSS 86 % des organisations de soins de santé et des sciences de la vie utilisent une version de l’IA, et L’IA étend le FRT d’une manière « au-delà de l’intelligence humaine » qui est non seulement incroyable, mais aussi effrayante. Les réseaux neuronaux profonds envahissent déjà le territoire des médecins, notamment « en prédisant les risques pour les patients, en établissant des diagnostics précis, en sélectionnant des médicaments et en donnant la priorité à l’utilisation de ressources de santé limitées ».
Que pensons-nous de l’utilisation du mFRT pour diagnostiquer des maladies génétiques, des handicaps, de la dépression ou de la maladie d’Alzheimer, et de l’utilisation de systèmes peu ou pas réglementés par la FDA ?
L’explosion soudaine de la recherche sur l’utilisation du mFRT pour « diagnostiquer des conditions génétiques, médicales et comportementales » est particulièrement troublante. Éthiciens médicaux qui voient cette aventure comme « avoir déjà été là » et ne pas bien se terminer.
En 1872, tout commença assez innocemment avec la publication par Charles Darwin de «L’expression des émotions chez l’homme et les animaux.» Il est devenu le premier scientifique à utiliser des images photographiques pour « documenter le spectre expressif du visage » dans une publication. Typiquer les individus à travers leurs images et leur apparence « a été une évolution frappante pour les cliniciens ».
Le cousin de Darwin, Francis Galtonun statisticien, a pris les données de son cousin et a synthétisé la « déviation identitaire » et a « fait de l’ingénierie inverse » ce qu’il considérait comme le « type idéal » de l’humain, « une forme insidieuse d’examen humain » qui allait devenir l’eugénisme (du mot grec, « eugène » – signifiant « bien né »). L’expansion universitaire a rapidement suivi, et la validation par notre système juridique a contribué à étendre et à cimenter le mouvement vers toutes sortes d’« imperfections », avec des étiquettes humaines aseptisées comme « handicap mental » et « délinquance morale ». La justice et la raison ont fini par rattraper leur retard, mais cela a pris des décennies, et c’était avant l’IA et les réseaux neuronaux. Et si Galton avait eu Gémeaux Ultra « explicitement conçu pour la reconnaissance faciale ? »
Compliquant encore davantage notre avenir, disent les experts, c’est le fait que l’IA générative avec ses « réseaux neuronaux profonds » est actuellement une « boîte noire » opaque et auto-formée… incapable d’expliquer le raisonnement qui a conduit à sa conclusion… Devenant plus autonomes à chaque amélioration, les algorithmes par lesquels la technologie fonctionne devient moins intelligible pour les utilisateurs et même pour les développeurs qui ont initialement programmé la technologie.
Le Conseil consultatif scientifique national américain sur la biosécurité restrictions récemment recommandées sur « Gain de fonction » recherche, admettant tardivement les dangers inhérents imposés par les progrès scientifiques et technologiques sans surveillance rationnelle et efficace. Critiques de « l’approche du Far West » qui a pu contribuer à la Morts du covid de plus de 1,1 million d’Américains, brandissent à nouveau les « drapeaux rouges ».
Le laissez-faire en tant que politique sociale ne semble pas bien fonctionner au carrefour de la médecine et de la technologie. Des découvertes utiles, voire révolutionnaires, se profilent probablement à l’horizon. Mais au total, les entrepreneurs mFRT à la recherche de profits augmenteront probablement les coûts tout en compliquant davantage une relation patient-médecin déjà assiégée.
Mike Magee MD est un historien médical et un contributeur régulier au THCB. Il est l’auteur de CODE BLEU : À l’intérieur du complexe industriel médical américain. (Bosquet/2020)
