Les extrémistes des États-Unis ont des outils d'intelligence artificielle artificiels pour les aider à répandre plus efficacement le discours de haine, à recruter de nouveaux membres et à radicaliser Un nouveau rapport du Middle East Media Research Institute (MEMRI), une organisation américaine de surveillance de la presse à but non lucratif.

Le rapport a révélé que le contenu généré par l'AI est désormais un pilier de la production des extrémistes: ils développent leurs propres modèles d'IA infusés par les extrémistes et expérimentent déjà de nouvelles façons de tirer parti de la technologie, notamment la production de plans pour des armes et des recettes 3D pour fabriquer bombes.

Des chercheurs du Domestic Terrorism Threat Monitor, un groupe de l'institut qui suit spécifiquement les extrémistes américains, exposent en détail l'échelle et la portée de l'utilisation de l'IA parmi les acteurs domestiques, notamment les néonazis, les suprémacistes blancs et l'anti- extrémistes du gouvernement.

«Au début, il y avait un peu d'hésitation autour de cette technologie et nous avons vu beaucoup de débat et de discussion parmi [extremists] En ligne sur la question de savoir si cette technologie pourrait être utilisée à leurs fins », a déclaré aux journalistes Simon Purdue, directeur du Domestic Terrorism Threat Monitor à MEMRI, aux journalistes dans un briefing plus tôt cette semaine. «Au cours des dernières années, nous sommes passés du contenu d'IA occasionnel à l'IA étant une partie importante du contenu de propagande haineux en ligne, en particulier en ce qui concerne la propagande vidéo et visuelle. Donc, à mesure que cette technologie se développe, nous verrons les extrémistes l'utiliser davantage. »

À l'approche des élections américaines, l'équipe de Purdue suit un certain nombre de développements troublants dans l'utilisation par les extrémistes de la technologie de l'IA, y compris l'adoption généralisée des outils vidéo de l'IA.

«La plus grande tendance que nous ayons remarquée [in 2024] est l'essor de la vidéo », explique Purdue. «L'année dernière, le contenu vidéo généré par l'IA était très basique. Cette année, avec la sortie de Sora d'Openai et d'autres plates-formes de génération de vidéo ou de manipulation, nous avons vu des extrémistes les utiliser comme moyen de produire du contenu vidéo. Nous avons également vu beaucoup d'excitation à ce sujet, beaucoup d'individus parlent de la façon dont cela pourrait leur permettre de produire des films de long métrage. »

Les extrémistes ont déjà utilisé cette technologie pour créer des vidéos mettant en vedette un président Joe Biden en utilisant des insultes raciales lors d'un discours et de l'actrice Emma Watson lisant à haute voix Mon combat alors qu'il était vêtu d'un uniforme nazi.

L'année dernière, Wired a rapporté comment les extrémistes liés au Hamas et au Hezbollah exploitent des outils d'IA génératifs pour saper la base de données de partage de hachage qui permet à de grandes plates-formes technologiques de supprimer rapidement le contenu terroriste de manière coordonnée, et il n'y a actuellement aucune solution disponible à ce problème

Adam Hadley, directeur exécutif de Tech Against Terrorism, dit que lui et ses collègues ont déjà archivé des dizaines de milliers d'images générées par l'IA créées par des extrémistes d'extrême droite.

«Cette technologie est utilisée de deux manières principales», a déclaré Hadley à Wired. «Tout d'abord, l'IA générative est utilisée pour créer et gérer des robots qui fonctionnent de faux comptes, et deuxièmement, tout comme l'IA générative révolutionne la productivité, il est également utilisé pour générer du texte, des images et des vidéos via des outils open-source. Ces deux utilisations illustrent le risque significatif que le contenu terroriste et violent puisse être produit et diffusé à grande échelle. »