L’attrait des deepfakes s’avérera-t-il irrésistible pour les gouvernements démocratiques ? Quelles questions les gouvernements devraient-ils poser – et qui au sein du gouvernement devrait les poser – lorsqu’un deepfake est envisagé ?
Deux professeurs de l’Université Northwestern ont co-écrit un nouveau rapport examinant plusieurs scénarios hypothétiques dans lesquels des gouvernements démocratiques pourraient envisager d’utiliser des deepfakes pour faire avancer leurs objectifs de politique étrangère et les dommages potentiels que cette utilisation pourrait poser à la démocratie.
Le le rapport a été publié le 12 mars par le Centre d’études stratégiques et internationales (SCRS).
Les coauteurs sont VS Subrahmanienprofesseur d’informatique Walter P. Murphy à la Northwestern’s École d’ingénierie McCormick et un camarade du Institut Buffett pour les affaires mondiales; et Daniel W. Linna Jr.maître de conférences et directeur des initiatives juridiques et technologiques à la École de droit Pritzker du Nord-Ouest. Ils ont dirigé le rapport avec Daniel Byman, chercheur principal au projet sur les menaces transnationales du SCRS.
Enregistrement vidéo, photo ou audio modifié numériquement, les deepfakes sont généralement utilisés de manière malveillante pour diffuser de la désinformation et créer de la confusion. Un exemple bien connu est une fausse vidéo apparue en mars 2022, dans laquelle une version modifiée numériquement du président ukrainien Volodymyr Zelensky dit à ses soldats de déposer les armes.
« À mesure que l’IA s’est améliorée, les deepfakes sont passés de primitifs à très réalistes, et ils deviendront de plus en plus difficiles à distinguer », écrivent les auteurs dans le rapport. «Cette prolifération de l’IA offre aux acteurs étatiques une opportunité sans précédent d’utiliser les deepfakes à des fins de sécurité nationale.»
> Écouter: VS Subrahmanian et Daniel Linna discutent du rapport
Les chercheurs postulent que l’attrait des deepfakes finira par devenir irrésistible pour les gouvernements démocratiques. « Il ne faudra pas longtemps avant que les grandes démocraties, y compris les États-Unis, commencent ou du moins envisagent d’utiliser les deepfakes pour parvenir à leurs fins, si elles ne l’ont pas déjà fait », ont-ils déclaré.
Selon les auteurs, les responsables devraient prendre en compte plusieurs facteurs lorsqu’ils envisagent l’utilisation de deepfakes :
- l’efficacité probable du deepfake,
- son public,
- les préjudices potentiels,
- les implications juridiques,
- la nature de la cible,
- le but du deepfake, et
- la traçabilité du deepfake jusqu’au gouvernement démocratique d’origine.
De manière générale, les auteurs soutiennent que les deepfakes ne devraient pas être utilisés car ils sont susceptibles de réduire la crédibilité des gouvernements démocratiques. Il peut toutefois y avoir de rares circonstances dans lesquelles le recours aux deepfakes mérite d’être sérieusement envisagé. Dans ces cas, affirment les auteurs, les gouvernements devraient développer un processus d’approbation ou de rejet des deepfakes qui garantit qu’une grande variété de points de vue soient mis sur la table.
En rapport
Le contenu de ce communiqué de presse provient de l’organisme de recherche d’origine. Le contenu peut être modifié en termes de style et de longueur. Vouloir plus? Inscrivez-vous à notre e-mail quotidien.
