OpenAI a publié le projet de documentation mercredi pour expliquer comment il veut que Chatgpt et son autre technologie d'IA se comportent. Partie des longs Document de spécification du modèle révèle que l'entreprise explore un saut dans le porno et d'autres contenus explicites.

Openai politiques d'utilisation Interdire réducteur des matériaux sexuellement explicites ou même suggestifs, mais une note de «commentaire» sur une partie de la spécification du modèle liée à cette règle dit que la société envisage comment permettre un tel contenu.

«Nous explorons si nous pouvons fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge via l'API et le Chatgpt», dit la note, en utilisant un terme familier pour le contenu considéré comme «non sûr pour le travail». «Nous sommes impatients de mieux comprendre les attentes des utilisateurs et de la société du comportement des modèles dans ce domaine.»

Le document de spécification du modèle indique que le contenu NSFW «peut inclure l'érotisme, le gore extrême, les insultes et les blasphèmes non sollicités». Il n'est pas clair si les explorations d'Openai sur la façon de faire en sorte que le contenu de NSFW envisage de permettre sa politique d'utilisation uniquement légèrement, par exemple, par exemple, pour permettre la génération de texte érotique, ou plus largement pour permettre des descriptions ou des représentations de violence.

OpenAI examine comment sa technologie pourrait générer de manière responsable une gamme de contenus différents qui pourraient être considérés comme NSFW, y compris les insultes et l'érotisme. Mais l'entreprise est particulière sur la façon dont le matériel sexuellement explicite est décrit.

Dans un communiqué à Wired, le porte-parole de la société Niko Felix a déclaré: “Nous n'avons aucune intention pour nos modèles de générer du porno de l'IA”. Cependant, NPR signalé Le fait que Joanne Jang, d'Openai, a aidé à rédiger le modèle Spec, a concédé que les utilisateurs se feraient finalement à leur opinion si sa technologie produisait du contenu pour adultes, en disant “dépend de votre définition du porno”.

En réponse aux questions de WIRED, le porte-parole d'OpenAI, Grace McGuire, a déclaré que les spécifications du modèle étaient une tentative de «apporter plus de transparence sur le processus de développement et d'obtenir une section transpecte de perspectives et de commentaires du public, des décideurs et d'autres parties prenantes». Elle a refusé de partager les détails de ce que l'exploration d'Openai de la génération de contenu explicite implique ou les commentaires que l'entreprise a reçus sur l'idée.

Plus tôt cette année, le directeur de la technologie d'Openai, Mira Murati, a déclaré The Wall Street Journal qu'elle était «pas sûr«Si l'entreprise permettait à l'avenir des représentations de la nudité d'être faites avec l'outil de génération de vidéos de la société Sora.

La pornographie générée par l'IA est rapidement devenue l'une des applications les plus importantes et les plus troublantes du type de technologie d'IA générative Openai. Le soi-disant porno Deepfake – des images ou des vidéos explicites réalisées avec des outils d'IA qui représentent de vraies personnes sans leur consentement – est devenue un outil commun de harcèlement contre les femmes et les filles. En mars, Wired a rapporté ce qui semble être les premiers mineurs américains arrêtés pour avoir distribué des nus générés par l'IA sans consentement, après que la police de la Floride ait accusé deux adolescents pour avoir fait des images représentant ses collègues collégiens.

«Les violations intimes de la vie privée, y compris les vidéos de sexe DeepFake et d'autres images intimes synthétisées non consensuelles, sont rampantes et profondément dommageables», explique Danielle Keats Citron, professeur à la School of Law de l'Université de Virginie qui a étudié le problème. «Nous avons maintenant un soutien empirique clair montrant que ces coûts d'abus ciblaient des opportunités cruciales, notamment pour travailler, parler et être en sécurité physique.»

Citron appelle l'adoption potentielle d'Openai du contenu IA explicite «alarmant».

Comme les politiques d'utilisation d'OpenAI interdisent l'identité sans autorisation, les images non consensuelles explicites resteraient interdites même si la société permettait aux créateurs de générer du matériel NSFW. Mais il reste à voir si l'entreprise pourrait efficacement modérer la génération explicite pour empêcher les mauvais acteurs d'utiliser les outils. Microsoft a apporté des modifications à l'un de ses outils d'IA génératifs Après 404 médias signalés qu'il avait été utilisé pour créer des images explicites de Taylor Swift qui ont été distribuées sur la plate-forme sociale X.

Reportage supplémentaire par Reece Rogers

MISE À JOUR 5-9-2024, 12:50 PM EDT: Cet article a été mis à jour avec des commentaires supplémentaires d'OpenAI.