Détecter quand le texte a été généré par des outils comme Chatgpt est une tâche difficile. Les outils populaires de détection artificielle de l'intelligence, comme GPTZero, peuvent fournir des conseils aux utilisateurs en leur disant quand quelque chose a été écrit par un bot et non par un logiciel humain, mais même un logiciel spécialisé n'est pas infaillible et peut cracher de faux positifs.

En tant que journaliste qui a commencé à couvrir la détection de l'IA il y a plus d'un an, je voulais organiser certains des meilleurs articles de Wired sur le sujet pour aider les lecteurs comme vous à mieux comprendre ce problème compliqué.

Vous avez encore plus de questions sur le repérage des sorties de Chatgpt et d'autres outils de chatbot? Inscrivez-vous à ma newsletter déverrouillée en IA et contactez-moi directement avec tout ce qui vous aime à AI que vous aimeriez répondre ou que vous voulez que Wired explore plus.

Février 2023 par Reece Rogers

Dans cet article, qui a été écrit environ deux mois après le lancement de Chatgpt, j'ai commencé à lutter contre les complexités de la détection de texte de l'IA ainsi que ce que la révolution de l'IA pourrait signifier pour les écrivains qui publient en ligne. Edward Tian, ​​le fondateur derrière Gptzerom'a parlé de la façon dont son détecteur d'IA se concentre sur des facteurs tels que la variance du texte et le hasard.

Au fur et à mesure que vous lisez, concentrez-vous sur la section concernant le filigrane du texte: «Un filigrane pourrait être en mesure de désigner certains modèles de mots pour être interdits pour le générateur de texte AI.» Bien qu'une idée prometteuse, les chercheurs avec qui j'ai parlé étaient déjà sceptiques de son efficacité potentielle.

Septembre 2023 par Christopher Beam

Une pièce fantastique du numéro d'octobre de l'an dernier, cet article vous donne un aperçu de l'état d'esprit d'Edward Tian alors qu'il travaillait pour étendre les capacités de portée et de détection de Gptzero. L'accent mis sur l'impact de l'IA a eu un impact crucial.

La détection de texte de l'IA est un niveau d'esprit pour de nombreux éducateurs en classe car ils notent les papiers et, potentiellement, renoncent complètement aux devoirs d'essais en raison des étudiants en utilisant secrètement des chatbots pour terminer les devoirs. Alors que certains étudiants peuvent utiliser l'IA génératrice comme outil de brainstorming, d'autres l'utilisent pour fabriquer des missions entières.

Septembre 2023 par Kate Knibbs

Les entreprises ont-elles la responsabilité de signaler des produits qui pourraient être générés par l'IA? Kate Knibbs a étudié à quel point des livres générés par le droit d'auteur ont été répertoriés sur Amazon, même si certaines startups pensaient que les produits pouvaient être repérés avec un logiciel spécial et supprimé. L'un des principaux débats sur la détection de l'IA dépend de la question de savoir si le potentiel de faux positifs – un texte écrite par l'humain qui est accidentellement signalé comme le travail de l'IA – sur les avantages de l'étiquetage du contenu généré par algorithme.

Août 2023 par Amanda Hoover

En dépassant les devoirs, le texte généré par l'IA apparaît davantage dans les revues universitaires, où elle est souvent interdite sans une divulgation appropriée. «Les articles écrits par l'IA pourraient également attirer l'attention du bon travail en diluant le bassin de la littérature scientifique», écrit Amanda Hoover. Une stratégie potentielle pour résoudre ce problème est que les développeurs créent des outils de détection spécialisés qui recherchent le contenu d'IA dans des articles évalués par des pairs.

Octobre 2023 par Kate Knibbs

Lorsque j'ai parlé avec des chercheurs pour la première fois en février dernier des filigranes pour la détection de texte de l'IA, ils étaient plein d'espoir mais prudents du potentiel d'imprimer du texte d'IA avec des modèles de langage spécifiques qui sont indétectables par les lecteurs humains mais évidents pour les logiciels de détection. Avec le recul, leur appréhension semble bien placée.

Juste un semestre plus tard, Kate Knibbs s'est entretenu avec plusieurs sources qui brisaient les filigranes de l'IA et démontrant leur faiblesse sous-jacente comme stratégie de détection. Bien qu'il ne soit pas garanti d'échouer, le texte de la filigrane sur l'IA continue d'être difficile à réaliser.

Avril 2024 par Amanda Hoover

Un outil que les enseignants essaient d'utiliser pour détecter le travail en classe généré par l'IA est Tournitinun logiciel de détection de plagiat qui a ajouté des capacités de repérage de l'IA. (Turnitin appartient à Advance, la société mère de Condé Nast, qui publie Wired.) Amanda Hoover écrit: «Chechitelli dit qu'une majorité des clients du service ont choisi d'acheter la détection de l'IA. Mais les risques de faux positifs et de préjugés contre les apprenants en anglais ont conduit certaines universités à abandonner les outils pour l'instant. »

Les détecteurs d'IA sont plus susceptibles d'étiqueter faussement le contenu écrit de quelqu'un dont la première langue n'est pas l'anglais en tant qu'IA que cela de quelqu'un qui est un locuteur natif. Alors que les développeurs continuent de travailler à l'amélioration des algorithmes de détection d'IA, le problème des résultats erronés reste un obstacle central à surmonter.