Détecter quand du texte a été généré par des outils comme ChatGPT est une tâche difficile. Populaire intelligence artificielleLes outils de détection, comme GPTZero, peuvent fournir des conseils aux utilisateurs en leur indiquant quand quelque chose a été écrit par un robot et non par un humain, mais même un logiciel spécialisé n’est pas infaillible et peut générer des faux positifs.
En tant que journaliste ayant commencé à couvrir la détection de l’IA il y a plus d’un an, je souhaitais rassembler certains des meilleurs articles de WIRED sur le sujet pour aider les lecteurs comme vous à mieux comprendre cette question complexe.
Vous avez encore plus de questions sur la détection des sorties de ChatGPT et d’autres outils de chatbot? Inscrivez-vous à mon Bulletin d’information AI déverrouilléet contactez-moi directement pour tout ce qui concerne l’IA et auquel vous souhaiteriez obtenir une réponse ou si WIRED explore davantage.
Février 2023 par Reece Rogers
Dans cet article, rédigé environ deux mois après le lancement de ChatGPT, j’ai commencé à aborder les complexités de la détection de texte par l’IA ainsi que ce que signifie la détection de texte par l’IA. Révolution de l’IA cela pourrait signifier pour les écrivains qui publient en ligne. Edward Tian, le fondateur derrière GPTZérom’a parlé de la façon dont son détecteur d’IA se concentre sur des facteurs tels que la variance du texte et le caractère aléatoire.
Pendant que vous lisez, concentrez-vous sur la section sur le filigrane de texte : « Un filigrane peut désigner certains modèles de mots comme étant interdits au générateur de texte IA. » Bien qu’il s’agisse d’une idée prometteuse, les chercheurs avec qui j’ai parlé étaient déjà sceptiques quant à son efficacité potentielle.
Septembre 2023 par Christopher Beam
Article fantastique du numéro d’octobre de WIRED de l’année dernière, cet article vous donne un aperçu de l’état d’esprit d’Edward Tian alors qu’il travaillait à étendre la portée et les capacités de détection de GPTZero. L’accent sur la façon dont L’IA a un impact sur le travail scolaire est crucial.
La détection de texte par l’IA est une priorité pour de nombreux enseignants lorsqu’ils notent des devoirs et, potentiellement, renoncent complètement aux devoirs en raison du fait que les étudiants utilisent secrètement des chatbots pour terminer leurs devoirs. Alors que certains étudiants peuvent utiliser l’IA générative comme outil de brainstorming, d’autres l’utilisent pour fabriquer des missions entières.
Septembre 2023 par Kate Knibbs
Les entreprises ont-elles la responsabilité de signaler les produits qui pourraient être générés par l’IA ? Kate Knibbs a enquêté sur la façon dont des livres générés par l’IA, susceptibles de violer les droits d’auteur, étaient mis en vente sur Amazone, même si certaines startups pensaient que les produits pouvaient être repérés avec un logiciel spécial et supprimés. L’un des principaux débats sur la détection de l’IA repose sur la question de savoir si le potentiel de faux positifs (un texte écrit par un humain qui est accidentellement signalé comme le travail de l’IA) l’emporte sur les avantages de l’étiquetage du contenu généré par des algorithmes.
Août 2023 par Amanda Hoover
Au-delà des simples devoirs, les textes générés par l’IA apparaissent davantage dans les revues académiques, où ils sont souvent interdits sans autorisation. divulgation appropriée. « Les articles rédigés par l’IA pourraient également détourner l’attention du bon travail en diluant le pool de littérature scientifique », écrit Amanda Hoover. Une stratégie potentielle pour résoudre ce problème consiste pour les développeurs à créer des outils de détection spécialisés qui recherchent du contenu d’IA dans des articles évalués par des pairs.
Octobre 2023 par Kate Knibbs
Lorsque j’ai parlé pour la première fois avec des chercheurs en février dernier au sujet des filigranes pour la détection de texte par l’IA, ils étaient pleins d’espoir mais prudents quant à la possibilité d’imprimer au texte de l’IA des modèles de langage spécifiques qui sont indétectables par les lecteurs humains mais évidents pour les logiciels de détection. Avec le recul, leur appréhension semble bien placée.
À peine six mois plus tard, Kate Knibbs s’est entretenue avec plusieurs sources qui brisaient les filigranes de l’IA et démontraient leur faiblesse sous-jacente en tant que stratégie de détection. Bien que l’échec ne soit pas garanti, le filigrane du texte AI reste difficile à réaliser.
avril 2024 par Amanda Hoover
Un outil que les enseignants tentent d’utiliser pour détecter le travail en classe généré par l’IA est Turnitine, un logiciel de détection de plagiat qui a ajouté des capacités de détection d’IA. (Turnitin appartient à Advance, la société mère de Condé Nast, qui publie WIRED.) Amanda Hoover écrit : « Chechitelli dit qu’une majorité des clients du service ont choisi d’acheter la détection IA. Mais les risques de faux positifs et de préjugés à l’encontre des apprenants d’anglais ont conduit certaines universités à abandonner ces outils pour le moment.
Les détecteurs d’IA sont plus susceptibles d’étiqueter faussement le contenu écrit provenant de quelqu’un dont la langue maternelle n’est pas l’anglais en tant qu’IA que celle de quelqu’un qui est un locuteur natif. Alors que les développeurs continuent de travailler à l’amélioration des algorithmes de détection de l’IA, le problème des résultats erronés reste un obstacle majeur à surmonter.