RAPPORT BREF DE CHIFFRE – Alors que les dirigeants du gouvernement américain s’efforcent de mettre en œuvre le nouveau Décret exécutif sur l’intelligence artificielle(AI) non seulement ils sont aux prises avec l’impact mondial de l’évolution technologique du monde, mais ils le font tout en étant confrontés à une série de menaces contre les entreprises américaines et la sécurité nationale, menaces provenant principalement de Chine.
« La vitesse vertigineuse à laquelle l’IA évolue et génère des innovations », a noté Eric Goldstein, directeur exécutif de CISA, lors du Cyber Initiatives Group. Sommet d’hiver cette semaine, comporte « des risques réels que nous allons désapprendre certaines des leçons des dernières décennies » sur la manière de développer et de déployer des logiciels en toute sécurité.
Les États-Unis dirigent un effort mondial réunissant des agences gouvernementales partenaires, notamment la Cybersecurity and Infrastructure Security Agency (CISA), le Federal Bureau of Investigation (FBI), la National Security Agency (NSA) et des agences du monde entier, pour créer une base de référence pour « développer, concevoir, entretenir et déployer des systèmes d’IA », selon Goldstein, « de la manière la plus sûre possible ». Cela signifie qu’au lieu d’assouplir les normes de sécurité de l’IA, comme certains l’ont suggéré, la technologie exige « un plus grand niveau de surveillance, de sécurité et de contrôle » pour garantir que les risques d’accès ou d’utilisation non autorisés sont gérés efficacement.
Cynthia Kaiser, directrice adjointe adjointe du FBI pour la cybersécurité, est d’accord et dit en même temps sommet que le Bureau utilise l’IA de deux manières distinctes. Premièrement, il y a la tâche défensive familière consistant à repousser les cybermenaces, un domaine de risque qui n’a été rendu que plus puissant et plus sophistiqué grâce aux capacités apportées par l’IA. Mais l’IA évoque une autre facette de protection : elle protège les innovateurs américains en matière d’IA du danger toujours présent du cyberespionnage et du vol de propriété intellectuelle.
La plus grande menace, selon les experts, est posée par la Chine, à la fois en tant que concurrent dans la recherche et le développement de l’IA et dans le vol des secrets technologiques américains. Selon Kaiser, « ce qui nous inquiète, c’est la prochaine étape à venir et la manière dont nous pouvons nous en défendre ».
Vous cherchez un moyen de prendre de l’avance dans le cyberespace et la technologie ? Inscrivez-vous au Groupe de cyber-initiatives Newsletter du dimanche pour vous tenir rapidement au courant des plus grands titres cybernétiques et technologiques et être prêt pour la semaine à venir. S’inscrire aujourd’hui.
La capacité unique de l’IA à dynamiser les utilisations malveillantes et à passer des menaces actuelles à des périls encore plus grands inquiète clairement le FBI. L’idée selon laquelle « les attaques destructrices s’améliorent », a noté Kaiser, à la suite d’incidents déjà alarmants comme le Typhon Volt implants de réseau, ou le sondage encore plus récent de Services d’eau américains par les acteurs iraniens de la menace, est une question de « mise à l’échelle » propre à l’IA.
Heureusement, les experts notent qu’il existe un « avantage pour les défenseurs » dans le déploiement de solutions de cybersécurité basées sur l’IA, telles que l’écriture et le test de codes de protection beaucoup plus rapidement ou l’utilisation de l’IA pour automatiser certaines fonctions de surveillance du système afin de gagner du temps et de réduire les dépenses. Mais, comme l’a dit Goldstein, l’équilibre de cet avantage est « très fragile », dans la mesure où l’on s’attend à ce que les adversaires poursuivent sans relâche leur propre développement et l’évolution de leurs capacités, souvent sans être limités par les garanties éthiques trouvées en Occident. Goldstein souligne que l’avantage actuel pourrait être gaspillé « si nous ne concevons pas et ne déployons pas eux-mêmes les systèmes d’IA en toute sécurité ».
Kaiser a abordé l’exigence du décret exigeant que toutes les agences fédérales élaborent des lignes directrices et des garanties internes sur l’utilisation de l’IA, un sujet particulièrement sensible au FBI. En réponse à ce mandat, Kaiser a noté que le FBI a déjà créé un conseil d’éthique de l’IA pour garantir que l’IA est utilisée de manière « qui préserve le processus juridique, qui préserve la vie privée des Américains… des choses qui sont vraiment importantes pour nous au FBI. protéger. »
Quant aux autres éléments du décret qui intéressent vivement la CISA, Goldstein a souligné trois aspects : premièrement, le rôle de coordination de la CISA avec les agences de gestion des risques sectoriels (SRM) pour mener des évaluations des risques et fournir des conseils à chaque secteur critique ; deuxièmement, le mandat d’utiliser les systèmes d’IA pour accélérer la détection des vulnérabilités sur les réseaux fédéraux ; et troisièmement, le rôle de la CISA dans la fourniture de conseils en matière d’équipe rouge pour les systèmes d’IA afin que des tests rigoureux conduisent à une compréhension des faiblesses et de la manière dont un adversaire pourrait les exploiter.
Lisez davantage d’informations, de perspectives et d’analyses rédigées par des experts en matière de sécurité nationale dans Le résumé du chiffrement
