Grandes entreprises technologiques, Y compris Google, Apple et Discord, ont permis aux gens de s'inscrire rapidement à des sites Web nocifs «déshabiller», qui utilisent l'IA pour éliminer les vêtements de vraies photos pour faire en sorte que les victimes semblent «nues» sans leur consentement. Plus d'une douzaine de ces sites Web DeepFake utilisent des boutons de connexion des entreprises technologiques depuis des mois.

Une analyse câblée a trouvé 16 des plus grands sites Web de déshabillage et de «nudification» en utilisant l'infrastructure de connexion de Google, Apple, Discord, Twitter, Patreon et Line. Cette approche permet aux gens de créer facilement des comptes sur les sites Web DeepFake – en leur offrant un placage de crédibilité – avant de payer des crédits et de générer des images.

Alors que les robots et les sites Web qui créent des images intimes non consensuelles des femmes et des filles existent depuis des années, le nombre a augmenté avec l'introduction de l'IA générative. Ce genre d'abus «déshabiller» est alarmant répanduavec des adolescents prétendument création images de leurs camarades de classe. Les entreprises technologiques ont été lents à faire face à l'ampleur des problèmes, selon les critiques, les sites Web apparaissant fortement dans les résultats de recherche, publicités payantes promouvant les sur les réseaux sociaux, et les applications apparaissant dans magasins d'applications.

«Il s'agit de la continuation d'une tendance qui normalise la violence sexuelle contre les femmes et les filles par Big Tech», explique Adam Dodge, avocat et fondateur d'Endtab (fin des abus de technologie). «Les API de connexion sont des outils de commodité. Nous ne devrions jamais faire de la violence sexuelle un acte de commodité », dit-il. «Nous devrions installer des murs autour de l'accès à ces applications, et à la place, nous donnons aux gens un pont-levis.»

Les outils de connexion analysés par Wired, qui sont déployés via des API et des méthodes d'authentification courantes, permettent aux gens d'utiliser des comptes existants pour rejoindre les sites Web DeepFake. Le système de connexion de Google est apparu sur 16 sites Web, Discord est apparu sur 13 et Apple's on Six. Le bouton de X était sur trois sites Web, avec Patreon et Messagerie Service Line apparaissant tous les deux sur les deux mêmes sites Web.

Wired ne nomme pas les sites Web, car ils permettent la maltraitance. Plusieurs sont partie de réseaux plus larges et possédés par les mêmes particuliers ou entreprises. Les systèmes de connexion ont été utilisés malgré les entreprises technologiques largement ayant règles Que les développeurs d'État ne peuvent pas utiliser leurs services d'une manière qui permettait de nuire, de harceler ou d'envahir la vie privée des gens.

Après avoir été contacté par Wired, les porte-parole de Discord et Apple ont déclaré avoir supprimé les comptes de développeur connectés à leurs sites Web. Google a déclaré qu'il prendrait des mesures contre les développeurs lorsqu'il constatera que ses conditions auraient été violées. Patreon a déclaré qu'elle interdit les comptes qui permettent la création d'images explicites, et que Line a confirmé qu'elle enquêtait, mais a déclaré qu'elle ne pouvait pas commenter des sites Web spécifiques. X n'a ​​pas répondu à une demande de commentaire sur la façon dont ses systèmes sont utilisés.

Dans les heures qui ont suivi Jud Hoffman, vice-président de la confiance et de la sécurité de Discord, a déclaré à Wired qu'il avait mis fin à l'accès des sites Web à ses API pour avoir violé son politique des développeursl'un des sites Web de déshabillage publiés dans un canal télégramme que l'autorisation via Discord était «temporairement indisponible» et a affirmé qu'il tentait de restaurer l'accès. Ce service de déshabillage n'a pas répondu à la demande de commentaires de Wired sur ses opérations.

Extension rapide

Depuis que la technologie DeepFake a émergé vers le fin 2017le nombre de vidéos et d'images intimes non consensuelles créées a augmenté de façon exponentielle. Bien que les vidéos soient plus difficiles à produire, la création d'images utilisant des sites Web et des applications «déshabiller» ou «nudifier» est devenu monnaie courante.

«Nous devons être clairs que ce n'est pas de l'innovation, c'est des abus sexuels», explique David Chiu, l'avocat de la ville de San Francisco, qui a récemment ouvert un Particulations contre les sites Web de déshabillage et de nudification et leurs créateurs. Chiu dit que les 16 sites Web sur lesquels le procès de son bureau se concentre a eu environ 200 millions de visites au cours des six premiers mois de cette année seulement. «Ces sites Web sont engagés dans une horrible exploitation des femmes et des filles du monde entier. Ces images sont utilisées pour intimider, humilier et menacer les femmes et les filles », selon Chiu.