Les gouvernements autour du Le monde se précipite pour embrasser les algorithmes qui ont respiré un semblant d'intelligence dans le chatgpt, apparemment captivé par l'énorme gain économique attendu de la technologie.

Deux nouveaux rapports cette semaine montrent que les États-nations se précipitent également pour adapter la même technologie dans les armes de désinformation, dans ce qui pourrait devenir une course aux armements de l'IA troublante entre les grandes puissances.

Des chercheurs de Rand, un groupe de réflexion à but non lucratif qui conseille le gouvernement américain, soulignent les preuves d'un chercheur militaire chinois qui a de l'expérience avec les campagnes d'information en train de discuter publiquement de la façon dont l'IA générative pourrait aider un tel travail. Un article de recherche, à partir de janvier 2023, suggère d'utiliser des modèles de gros langues tels qu'une version affinée de Google's Bert, un précurseur des modèles de langage plus puissants et capables qui alimentent les chatbots comme Chatgpt.

«Il n'y a aucune preuve que cela soit fait en ce moment», dit William Marcellinoun expert en IA et un spécialiste du comportement et des sciences sociales de Rand, qui a contribué au rapport. «Plutôt quelqu'un qui dit:« Voici une voie à suivre ». «Proposer un système pour créer des millions de faux comptes qui prétendent être taïwanais, ou les Américains, ou les Allemands, qui poussent un récit de l'État – je pense que c'est qualitativement et quantitativement différent», dit Marcellino.

Les campagnes d'information en ligne, comme celle que l'agence de recherche sur Internet de la Russie a mené pour saper les élections américaines de 2016, existent depuis des années. Ils dépendent principalement de la main-d'œuvre manuelle – les travailleurs humains qui pesaient dans les claviers. Mais les algorithmes d'IA développés au cours des dernières années pourraient potentiellement produire du texte, des images et des vidéos conçues pour tromper ou persuader, ou même effectuer des interactions convaincantes avec les personnes sur les plateformes de médias sociaux. Un projet récent suggère que le lancement d'une telle campagne ne pourrait coûter que quelques centaines de dollars.

Marcellino et ses co-auteurs notent que de nombreux pays – les États-Unis inclus – explorent presque certainement l'utilisation d'une IA générative pour leurs propres campagnes d'information. Et la large accessibilité des outils d'IA génératifs, y compris de nombreux modèles de langue open source, quiconque peut obtenir et modifier, abaisse la barre pour tous ceux qui cherchent à lancer une campagne d'information. «Une variété d'acteurs pourraient utiliser une IA générative pour la manipulation des médias sociaux, y compris des acteurs non sophistiqués techniquement sophistiqués», écrivent-ils.

Un deuxième rapport publié cette semaine, par un autre groupe de réflexion axé sur la technologie, le Projet d'études compétitives spécialesavertit également que l'IA génératrice pourrait bientôt devenir un moyen pour les nations de se fléchir les unes sur les autres. Il exhorte le gouvernement américain à investir massivement dans une IA générative parce que la technologie promet de stimuler de nombreuses industries différentes et de fournir des «nouvelles capacités militaires, de la prospérité économique et de l'influence culturelle» pour la nation qui le maîtrise en premier.

Comme le rapport Rand, l'analyse du SCSP tire également des conclusions sombres. Il prévient que le potentiel de l'IA génératrice est susceptible de déclencher une course aux armements pour adapter la technologie à utiliser par les militaires ou dans les cyberattaques. Si les deux ont raison, nous nous dirigeons vers une course aux armements d'information qui peut s'avérer particulièrement difficile à contenir.

Comment éviter le scénario de cauchemar d'Internet qui devient dépassé avec des robots AI programmés pour la guerre d'information? Cela oblige les humains à parler les uns avec les autres.

Le rapport SCSP recommande que les États-Unis «devraient diriger l'engagement mondial pour promouvoir la transparence, favoriser la confiance et encourager la collaboration». Les chercheurs Rand recommandent que les diplomates américains et chinois discutent de l'IA génératrice et des risques autour de la technologie. «C'est peut-être dans tous nos intérêts de ne pas avoir un Internet totalement pollué et incroyable», explique Marcellino. Je pense que c'est quelque chose sur lequel nous pouvons tous nous mettre d'accord.