Des canaux télégrammes et des bots Deepfake non consensuels supplémentaires et des bots identifiés par WIRED montrent l'échelle du problème. Plusieurs propriétaires de chaînes ont posté que leurs robots avaient été retirés, avec l'un disant: «Nous ferons un autre bot demain.» Ces comptes ont également été supprimés plus tard.

Se cacher à la vue

Télégramme bots sont, essentiellement, de petites applications qui courent à l'intérieur de Telegram. Ils sont assis aux côtés des canaux de l'application, qui peuvent diffuser des messages à un nombre illimité d'abonnés; groupes où jusqu'à 200 000 personnes peuvent interagir; et des messages un à un. Les développeurs ont créé des robots où les gens prennent des quiz de trivia, traduisent des messages, créent des alertes ou commencent le zoom. Ils ont également été cooptés pour avoir créé des fesses profondes abusives.

En raison de la nature nuisible des outils DeepFake, Wired n'a pas testé les bots télégrammes et ne nomme pas des robots ou des canaux spécifiques. Bien que les bots comptaient des millions d'utilisateurs mensuels, selon les statistiques de Telegram, il n'est pas clair combien d'images les robots peuvent avoir été utilisés pour créer. Certains utilisateurs, qui pourraient être dans plusieurs canaux et robots, peuvent avoir créé zéro images; D'autres auraient pu en créer des centaines.

Beaucoup de robots Deepfake visibles par Wired sont clairs sur ce qu'ils ont été créés pour faire. Les noms et descriptions des bots se réfèrent à la nudité et en supprimant les vêtements pour femmes. «Je peux faire tout ce que vous voulez sur le visage ou les vêtements de la photo que vous me donnez», a écrit les créateurs d'un bot. «Découvrez le choc apporté par l'IA», dit un autre. Telegram peut également afficher des «canaux similaires» dans son outil de recommandation, aidant les utilisateurs potentiels à rebondir entre les canaux et les robots.

Presque tous les robots exigent que les gens achètent des «jetons» pour créer des images, et il n'est pas clair s'ils opèrent de la manière dont ils prétendent. Comme l'écosystème autour de Deepfake Generation a prospéré ces dernières années, il est devenu un Source de revenu potentiellement lucrative Pour ceux qui créent des sites Web, des applications et des robots. Tant de gens essaient d'utiliser des sites Web «Nudify» que les cybercriminels russes, comme rapporté par 404mediaont commencé à créer de faux sites Web pour infecter les gens avec des logiciels malveillants.

Alors que les premiers bots télégrammes, identifiés il y a plusieurs années, étaient relativement rudimentaires, la technologie nécessaire pour créer des images générées par l'IA plus réalistes s'est améliorée – et certains des robots se cachent à la vue.

Un bot avec plus de 300 000 utilisateurs mensuels n'a fait référence à aucun matériel explicite dans son nom ou sa page de destination. Cependant, une fois qu'un utilisateur clique pour utiliser le bot, il prétend qu'il a plus de 40 options pour les images, dont beaucoup sont de nature hautement sexuelle. Ce même bot a un guide de l'utilisateur, hébergé sur le Web en dehors de Telegram, décrivant comment créer les images de la plus haute qualité. Les développeurs de BOT peuvent obliger les utilisateurs à accepter les conditions d'utilisation, qui peuvent interdire aux utilisateurs de télécharger des images sans le consentement de la personne représentée ou des images d'enfants, mais il semble y avoir peu ou pas d'application de ces règles.

Un autre bot, qui comptait plus de 38 000 utilisateurs, a affirmé que les gens pouvaient envoyer six images du même homme ou femme – c'est l'un d'un petit nombre qui prétend créer des images d'hommes – pour «former» un modèle d'IA, qui pourrait alors créer Nouvelles images DeepFake de cet individu. Une fois que les utilisateurs ont rejoint un bot, il présenterait un menu de 11 «autres robots» des créateurs, susceptibles de garder les systèmes en ligne et d'essayer d'éviter les éliminations.