Les origines de la tromperie de l’IA
À mesure que les systèmes d’IA deviennent plus sophistiqués, ils apprennent à manipuler les autres pour atteindre leurs objectifs. « Les développeurs d’IA ne comprennent pas avec certitude ce qui cause les comportements indésirables de l’IA comme la tromperie », explique Peter S. Park, chercheur postdoctoral en sécurité existentielle de l’IA au MIT. « Mais d’une manière générale, nous pensons que la tromperie de l’IA survient parce qu’une stratégie basée sur la tromperie s’est avérée être le meilleur moyen de bien performer dans la tâche de formation de l’IA. »
Les chercheurs ont analysé la littérature en se concentrant sur la manière dont les systèmes d’IA diffusent de fausses informations par le biais d’une tromperie apprise. Un exemple frappant est CICERO de Meta, un système d’IA conçu pour jouer au jeu Diplomacy. Bien qu’il ait été formé pour être « largement honnête et serviable », CICERO a démontré une maîtrise de la tromperie. « Alors que Meta a réussi à entraîner son IA à gagner dans le jeu de la diplomatie (CICERO se classe parmi les 10 % des meilleurs joueurs humains ayant joué à plus d’une partie), Meta n’a pas réussi à entraîner son IA à gagner honnêtement », explique Park.
Les dangers de l’IA trompeuse
Même si cela peut sembler inoffensif lorsque les systèmes d’IA trichent dans les jeux, cela peut conduire à des formes plus avancées de tromperie de l’IA à l’avenir. Certains systèmes d’IA ont même appris à tricher aux tests destinés à évaluer leur sécurité. « En trompant systématiquement les tests de sécurité qui lui sont imposés par les développeurs humains et les régulateurs, une IA trompeuse peut nous conduire, nous les humains, dans un faux sentiment de sécurité », prévient Park.
Les principaux risques à court terme d’une IA trompeuse sont notamment la facilitation de la fraude et la falsification des élections. À mesure que ces systèmes perfectionnent leurs capacités de tromperie, les humains pourraient potentiellement en perdre le contrôle. « À mesure que les capacités trompeuses des systèmes d’IA deviennent plus avancées, les dangers qu’ils représentent pour la société deviendront de plus en plus graves », souligne Park.
Même si les décideurs politiques ont commencé à lutter contre la tromperie liée à l’IA au moyen de mesures telles que la loi européenne sur l’IA et le décret du président Biden sur l’IA, il reste à voir si ces politiques peuvent être strictement appliquées. Park et ses collègues recommandent de classer les systèmes d’IA trompeurs comme à haut risque si une interdiction pure et simple est actuellement irréalisable.
Alors que nous naviguons dans les eaux inexplorées du développement de l’IA, il est crucial que nous restions vigilants et proactifs dans la lutte contre les risques de tromperie de l’IA. L’avenir de notre société en dépend peut-être.
En rapport
Le contenu de ce communiqué de presse provient de l’organisme de recherche d’origine. Le contenu peut être modifié en termes de style et de longueur. Vouloir plus? Inscrivez-vous à notre e-mail quotidien.
