Dans ses temps libres, Tony Eastin aime s'adapter en bourse. Un jour de l'année dernière, il a recherché une entreprise pharmaceutique sur Google qui semblait être un investissement prometteur. L'un des premiers résultats de recherche que Google a servi sur son onglet d'actualités a été répertorié comme provenant du Registre du comté de Claytonun journal du nord-est de l'Iowa. Il a cliqué et lu. L'histoire a été brouillée et dépourvue d'informations utiles – tout comme les autres messages sur le thème des finances remplissant le site, ce qui n'avait absolument rien à voir avec le nord-est de l'Iowa. «Je savais tout de suite qu'il y avait quelque chose», dit-il. Il y a beaucoup de déchets sur Internet, mais cela a frappé Eastin comme étrange: pourquoi un petit papier du Midwest dissuivrait-il des articles de blog merdiques sur l'investissement au détail?

Eastin était prêt à trouver des mystères en ligne irrésistibles. Après des années dans l'US Air Force travaillant sur des campagnes de guerre psychologique, il avait rejoint Meta, où il a enquêté sur la méchanceté allant de la maltraitance des enfants aux opérations d'influence politique. Maintenant, il était entre les emplois et a salué une nouvelle mission. Eastin a donc contacté Sandeep Abraham, un ami et ancien collègue Meta qui travaillait auparavant dans les renseignements de l'armée et pour la National Security Agency, et leur a suggéré de commencer à creuser.

Ce que la paire a découvert fournit un instantané de la façon dont l'IA générative permet de nouveaux modèles commerciaux en ligne. Des réseaux de sites Web remplis de clics générés par l'IA sont construits en s'attaquant à la réputation des médias et des marques établis. Ces débouchés prospèrent en déroutant et en trompant les publics et annonceurs, «squatting du domaine» sur les URL qui appartenaient autrefois à des organisations plus réputées. Le site Scuzzy Eastin a été référé à ne plus appartenir au journal dont il a toujours échangé le nom de.

Bien qu'Easttin et Abraham soupçonnent que le réseau que le RegistreL'ancien site fait maintenant partie de la création avec des objectifs simples d'argent, ils craignent que des acteurs plus malveillants puissent utiliser le même type de tactique pour pousser la désinformation et la propagande dans les résultats de recherche. «C'est une menace massivement», explique Abraham. «Nous voulons soulever des sonneries d'alarme.» À cette fin, la paire a publié un rapport Sur leurs conclusions et prévoyez de libérer davantage alors qu'ils approfondissent le monde des clics de l'IA, en espérant que leurs efforts de temps de rechange puissent aider à sensibiliser au public ou aux législateurs.

Fébrure

Le Registre du comté de Clayton a été fondée en 1926 et a couvert la petite ville d'Ekader, Iowa, et le comté de Clayton, qui se niche contre la rivière Mississippi, dans le coin nord-est de l'État. «C'était un article populaire», explique l'ancien miéditeur Bryce Durbin, qui se décrit comme «dégoûté» par ce qui est maintenant publié dans son ancienne adresse Web, ClaytoncountyRegister.com. (Le réel Registre du comté de Clayton fusionné en 2020 avec Les temps du Nord de l'Iowa devenir le Enregistrer dans le tempsqui publie à un site Web différent. Il n'est pas clair comment le papier a perdu le contrôle de son domaine Web; le Enregistrer dans le temps n'a pas retourné les demandes de commentaires.)

Comme Eastin l'a découvert en essayant de rechercher ses actions pharmaceutiques, le site se marque toujours comme le registre du comté de Clayton, mais n'offre plus de nouvelles locales et est plutôt un moulin de contenu financier. Il publie ce qui semble être des articles générés par l'IA sur les cours des actions des sociétés de services publics et des startups Web3, illustrées par des images qui sont également apparemment générées par l'IA.

«Non seulement les articles que nous avons examinés sont générés par l'IA, mais les images incluses dans chaque article ont toutes été créées à l'aide de modèles de diffusion», explique Ben Colman, PDG de DeepFake Detection Startup Reality Defender, qui a effectué une analyse sur plusieurs articles à la demande de Wired . En plus de cette confirmation, Abraham et Eastin ont remarqué que certains des articles comprenaient du texte admettant leurs origines artificielles. «Il est important de noter que ces informations ont été générées automatiquement par des informations automatisées», a déclaré certains des articles, à couper le nom d'une entreprise qui offre une technologie de génération de langage.