L'hiver dernier était Une très mauvaise période dans la vie de Celebrity Gamer et YouTuber Atrioc (Brandon Ewing). Ewing diffusait l'un de ses Twitch Livestreams habituels lorsque sa fenêtre de navigateur a été accidentellement exposée à son public. Au cours de ces quelques instants, les téléspectateurs ont soudainement vu qu'Ewing avait un onglet de navigateur ouvert à un site Web qui vend des contrefaçons profondes, y compris celles mettant en vedette des youtubers et des joueurs populaires comme Qtcinderrella et Pokimane. Quelques instants plus tard, un spectateur à l'esprit rapide a téléchargé une capture d'écran supprimée de la scène sur Reddit, et donc le scandale était un fait.

Deepfakes se réfèrent largement aux médias trafiqués par l'IA, généralement pour superposer le visage d'une personne à celui, disons, un acteur dans un film ou un clip vidéo. Mais malheureusement, comme l'a rapporté la journaliste technologique Samantha Cole, sa fonction principale a été de créer des célébrités féminines porno, et peut-être plus alarmantes, de visualiser les fantasmes sexuels d'amis ou connaissances. Compte tenu de sa sophistication et de sa disponibilité croissantes, toute personne ayant une photo de votre visage peut maintenant la transformer en porno.

Pour la plupart des gens, je crois, il est évident qu'Ewing a commis une sorte d'inconduite dans la consommation de la pornographie fictive mais non consensuelle de ses amis. En effet, les commentaires sur Reddit et les réactions fortes (justifiées) des femmes dont les visages ont été utilisés dans les clips, témoignent d'un profond sentiment de dégoût. Cela est compréhensible, mais spécifiant exactement où le crime réside est une entreprise étonnamment difficile. En fait, la tâche de le faire met en évidence un problème philosophique qui nous oblige à reconsidérer non seulement le porno, mais la nature même de l'imagination humaine. Je l'appelle le dilemme du pervers.

D'une part, on peut affirmer qu'en consommant le matériel, Ewing incitait sa production et sa diffusion qui, en fin de compte, peuvent nuire à la réputation et au bien-être de ses collègues joueuses. Mais je doute que le verdict aux yeux du public aurait été beaucoup plus doux s'il avait produit les vidéos par sa propre main pour le plaisir personnel. Et peu de gens voient son incapacité à fermer l'onglet comme le principal problème. Le crime, c'est-à-dire, semble se situer dans la consommation même des Fackets Deep, et non les effets en aval de le faire. Consommer Deepfakes est erroné, complet, indépendamment du fait que les gens «mettent en vedette» dans les clips, ou à quiconque, le découvrent.

Dans le même temps, nous sommes tout aussi certains que les fantasmes sexuels sont moralement neutres. En effet, personne (sauf peut-être certains catholiques durs) n'aurait blâmé Ewing d'avoir visionné des images pornographiques de ces banderoles populaires dans son esprit. Mais quelle est la différence, vraiment? Le Fantasy et le Deepfake sont essentiellement des images virtuelles produites par la saisie des données précédentes, une seule n'existe dans la tête, l'autre sur un écran. Certes, ce dernier peut être plus facilement partagé, mais si le crime réside dans la consommation personnelle, et non les effets externes, cela devrait être hors de propos. D'où le dilemme du pervers: nous pensons que les fantasmes sexuels vont bien tant qu'ils ne sont générés et contenus de la tête d'une personne, et odieux au moment où ils existent dans le cerveau à l'aide d'une représentation quelque peu réaliste – nous avons du mal à identifier toute distinction moralement pertinente pour justifier cette évaluation.

À long terme, il est probable que cela nous obligera à réévaluer nos attitudes morales à la fois en faveur des fesses profondes et des fantasmes sexuels, au moins dans la mesure où nous voulons maintenir la cohérence dans notre moralité. Il y a deux façons évidentes que cela pourrait aller.