Hany Farid, professeur d'informatique à l'Université de Californie à Berkeley, dit que ce type de désinformation personnalisée sera «partout». Bien que les mauvais acteurs viseront probablement les gens par des groupes lors de la façon de mener une campagne de désinformation à grande échelle, ils pourraient également utiliser une IA générative pour cibler les individus.

«Vous pourriez dire quelque chose comme:« Voici un tas de tweets de cet utilisateur. S'il vous plaît, écrivez-moi quelque chose qui s'engagera pour eux. Qui sera automatisé. Je pense que cela arrive probablement », dit Farid.

Les fournisseurs de désinformation essaieront toutes sortes de tactiques jusqu'à ce qu'ils trouvent ce qui fonctionne le mieux, dit Farid, et une grande partie de ce qui se passe avec ces campagnes de désinformation ne sera probablement pas entièrement comprise qu'après leur opération depuis un certain temps. De plus, ils n'ont qu'à être quelque peu efficaces pour atteindre leurs objectifs.

«Si je veux lancer une campagne de désinformation, je peux échouer 99% du temps. Vous échouez tout le temps, mais cela n'a pas d'importance », explique Farid. «De temps en temps, le Qanon passe. La plupart de vos campagnes peuvent échouer, mais celles qui ne peuvent pas faire des ravages. »

Farid dit que nous avons vu au cours du cycle électoral de 2016 comment les algorithmes de recommandation sur les plateformes comme les personnes radicalisées de Facebook et ont aidé à répandre la désinformation et les théories du complot. Dans l'approvisionnement des élections américaines de 2024, l'algorithme de Facebook – soi-même une forme d'IA – recommandera probablement certains articles générés par l'AI au lieu de pousser uniquement du contenu entièrement créé par des acteurs humains. Nous avons atteint le point où l'IA sera utilisée pour créer une désinformation qu'une autre IA vous recommande ensuite.

«Nous avons été assez bien trompés par un contenu de très faible qualité. Nous entrons dans une période où nous allons obtenir une désinformation et une propagande de meilleure qualité », explique Starbird. «Il sera beaucoup plus facile de produire du contenu adapté à un public spécifique qu'auparavant. Je pense que nous devrons juste être conscients que c'est ici maintenant. “

Que peut-on faire de ce problème? Malheureusement, seulement beaucoup. Diresta dit que les gens doivent être informés de ces menaces potentielles et faire plus attention au contenu avec lequel ils s'engagent. Elle dit que vous voudrez vérifier si votre source est un site Web ou un profil de médias sociaux qui a été créé très récemment, par exemple. Farid dit que les sociétés d'IA doivent également être pressées pour mettre en œuvre des garanties, donc il y a moins de désinformation créée dans l'ensemble.

L'administration Biden a récemment conclu un accord avec certaines des plus grandes sociétés d'IA – Chatgpt Maker Openai, Google, Amazon, Microsoft et Meta – qui les encourage à créer des garde-corps spécifiques pour leurs outils d'IA, y compris les tests externes des outils IA et l'aquarelle du contenu créé par l'IA. Ces sociétés d'IA ont également créé un groupe axé sur l'élaboration de normes de sécurité pour les outils d'IA, et le Congrès débat de la façon de réglementer l'IA.

Malgré de tels efforts, l'IA accélère plus rapidement qu'il n'est en train d'être en cours, et la Silicon Valley ne parvient souvent pas à ne tenir ses promesses que de libérer des produits en sécurité et testés. Et même si certaines entreprises se comportent de manière responsable, cela ne signifie pas que tous les acteurs de cet espace agiront en conséquence.

“C'est l'histoire classique des 20 dernières années: libérez la technologie, envahir la vie privée de tout le monde, faire des ravages, devenir des sociétés d'évaluation du milliard de dollars, puis dire:” Eh bien, oui, de mauvaises choses se sont produites “”, explique Farid. “Nous répétons en quelque sorte les mêmes erreurs, mais maintenant il est suralimenté parce que nous publions ces trucs sur le dos des appareils mobiles, des médias sociaux et un gâchis qui existe déjà.”