Mais ne vous méprenez pas, là étaient les deepfakes trompeurs qui se sont répandus lors de cette élection. Par exemple, quelques jours avant les élections au Bangladesh, des deepfakes diffusés en ligne encouragent partisans d'un des partis politiques du pays à boycotter le vote. Sam Gregory, directeur de programme de l'association à but non lucratif Witness, qui aide les gens à utiliser la technologie pour défendre les droits de l'homme et gère un programme de détection à réponse rapide pour les organisations de la société civile et les journalistes, affirme que son équipe a constaté une augmentation des cas de deepfakes cette année.

« Dans de nombreux contextes électoraux », dit-il, « il y a eu des exemples d'utilisation à la fois trompeuse ou déroutante de médias synthétiques sous forme audio, vidéo et image qui ont intrigué les journalistes ou n'ont pas été en mesure de les vérifier ou de les contester pleinement. » Ce que cela révèle, dit-il, c’est que les outils et systèmes actuellement en place pour détecter les médias générés par l’IA sont encore à la traîne par rapport au rythme de développement de la technologie. En dehors des États-Unis et de l’Europe occidentale, ces outils de détection sont encore moins fiables.

“Heureusement, l'IA n'a pas été utilisée de manière trompeuse lors de la plupart des élections ni de manière cruciale, mais il est très clair qu'il existe une lacune dans les outils de détection et l'accès à ceux-ci pour les personnes qui en ont le plus besoin”, explique Gregory. “L'heure n'est pas à la complaisance.”

L’existence même des médias synthétiques, dit-il, signifie que les politiciens ont pu prétendre que les vrais médias sont faux – un phénomène connu sous le nom de « dividende du menteur ». En aoûtDonald Trump a affirmé que les images montrant de grandes foules de personnes se rendant à des rassemblements pour la vice-présidente Kamala Harris étaient générées par l'IA. (Ce n’était pas le cas.) Gregory dit que dans une analyse de tous les rapports envoyés à la force de réponse rapide deepfake de Witness, environ un tiers des cas concernaient des politiciens utilisant l’IA pour nier les preuves d’un événement réel – la plupart impliquant des fuites de conversations.

Mais Brennen affirme que l’utilisation la plus importante de l’IA au cours de l’année écoulée s’est produite en coulisses, de manière plus subtile et moins sexy. “Bien qu'il y ait eu moins de deepfakes trompeurs que beaucoup ne le craignaient, il y avait encore beaucoup d'IA en coulisses”, explique Brennen. “Je pense que nous avons vu beaucoup plus d'IA rédiger des textes pour des e-mails, rédiger des textes pour des publicités dans certains cas, ou pour des discours.” Mais comme ces types d'utilisations de l'IA générative ne sont pas aussi destinés aux consommateurs que les deepfakes, dit Brennen, il est difficile de savoir exactement à quelle échelle ces outils ont été utilisés.

Schneier affirme que l’IA a en fait joué un rôle important dans les élections, notamment « en matière de traduction linguistique, de prospection et d’aide à la stratégie ».

Lors des élections en Indonésie, une société de conseil politique a utilisé un outil basé sur ChatGPT d'OpenAI écrire des discours et rédiger des stratégies de campagne. En Inde, le Premier ministre Narendra Modi a utilisé un Logiciel de traduction IA de traduire ses discours en temps réel dans plusieurs langues parlées en Inde. Et Schneier affirme que ces utilisations de l’IA ont le potentiel d’être bénéfiques pour la démocratie dans son ensemble, en permettant à davantage de personnes de se sentir incluses dans le processus politique et en aidant les petites campagnes à accéder à des ressources qui autrement seraient hors de portée.

« Je pense que ce seront les candidats locaux qui auront le plus d'impact », dit-il. « La plupart des campagnes dans ce pays sont minuscules. C'est une personne qui se présente pour un emploi qui n'est peut-être même pas payé. Selon Schneier, les outils d’IA qui pourraient aider les candidats à se connecter avec les électeurs ou à remplir des formalités administratives seraient « phénoménaux ».

Schneier note également que les candidats et porte-parole d’Amnesty International peuvent contribuer à protéger les personnes réelles et les candidats de l’opposition dans les États répressifs. Plus tôt cette année, Les dissidents biélorusses en exil ont présenté un candidat à l'IA comme symbole de protestation contre le président Alexandre Loukachenko, le dernier dictateur d'Europe. Le gouvernement de Loukachenko a arrêté des journalistes et des dissidents, ainsi que leurs proches.

Et de leur côté, les sociétés d’IA générative sont déjà entrées dans le mix avec les campagnes américaines cette année. Microsoft et Google ont dispensé des formations à plusieurs campagnes sur la manière d'utiliser leurs produits pendant les élections.

“Ce n'est peut-être pas encore l'année des élections pour l'IA, car ces outils ne font que commencer”, déclare Schneier. “Mais ils commencent.”