YouTube a mis à jour son livre de règles pour l'ère de Deepfakes. À partir d'aujourd'hui, toute personne téléchargeant une vidéo sur la plate-forme doit divulguer certaines utilisations des médias synthétiques, y compris l'IA générative, afin que les téléspectateurs sachent que ce qu'ils voient n'est pas réel. YouTube dit qu'il s'applique à des médias modifiés «réalistes» tels que «faire en sorte qu'un vrai bâtiment a pris feu» ou échangeant «le visage d'un individu avec un autre».

Le nouvelle politique montre que YouTube prenait des mesures qui pourraient aider à limiter la propagation de la désinformation générée par l'AI-AI à l'approche des élections présidentielles américaines. Il est également frappant de ce qu'il permet: les animations générées par l'IA destinées aux enfants ne sont pas soumises aux nouvelles règles de divulgation de contenu synthétique.

YouTube nouvelles politiques Exclure complètement le contenu animé de l'exigence de divulgation. Cela signifie que la scène émergente des arnaqueurs de contenu générés par des riches riches en AI peut continuer à produire des vidéos destinées aux enfants sans avoir à divulguer leurs méthodes. Les parents préoccupés par la qualité des vidéos de rhyme de pépinière fabriqués à la hâte seront laissés par eux-mêmes pour identifier les dessins animés générés par l'IA.

La nouvelle politique de YouTube dit également que les créateurs n'ont pas besoin de signaler l'utilisation de l'IA pour les modifications «mineures» qui sont «principalement esthétiques» telles que les filtres de beauté ou le nettoyage de la vidéo et de l'audio. L'utilisation de l'IA pour «générer ou améliorer» un script ou des légendes est également autorisée sans divulgation.

Il n'y a pas de pénurie de contenu de faible qualité sur YouTube fabriqué sans IA, mais des outils d'IA génératifs abaissent la barre pour produire une vidéo d'une manière qui accélère sa production. La société mère de YouTube, Google, a récemment déclaré qu'elle peaufinerait ses algorithmes de recherche pour rétrograder le récent inondation de clickbait généré par l'IA, rendu possible par des outils tels que Chatgpt. La technologie de génération de vidéos est moins mature mais s'améliore rapidement.

Problème établi

YouTube est un mastodonte de divertissement pour enfants, éclipsant des concurrents comme Netflix et Disney. La plate-forme a eu du mal à modérer la grande quantité de contenu destiné aux enfants. Il a été critiqué pour l'hébergement de contenu qui semble superficiellement approprié ou séduisant aux enfants, mais en visualisation plus étroite, il contient des thèmes peu recommandables.

Wired a récemment rendu compte de la montée en puissance des chaînes YouTube ciblant les enfants qui semblent utiliser des outils de génération vidéo d'IA pour produire des vidéos de mauvaise qualité avec des animations 3D génériques et des itérations hors de Kilter de comptines populaires.

L'exemption de l'animation dans la nouvelle politique de YouTube pourrait signifier que les parents ne peuvent pas facilement filtrer ces vidéos à partir des résultats de recherche ou conserver l'algorithme de recommandation de YouTube des caricatures générés par AI-Généré après avoir mis en place leur enfant pour regarder des chaînes populaires et approfondies comme PBS Kids ou Mme ou Ms. Rachel.

Un contenu problématique généré par l'IA destiné aux enfants nécessite de signaler en vertu des nouvelles règles. En 2023, la BBC enquêté Une vague de vidéos ciblant les enfants plus âgés qui ont utilisé des outils d'IA pour pousser la pseudoscience et les théories du complot, y compris le déni du changement climatique. Ces vidéos imitaient des vidéos éducatives conventionnelles en direct – qui, par exemple, les vraies pyramides de Gizeh – donc les téléspectateurs sans méfiance pourraient les confondre avec un contenu éducatif en fait précis. (Les vidéos pyramidales ont ensuite fait suggérer que les structures peuvent générer de l'électricité.) Cette nouvelle politique réprimerait ce type de vidéo.

«Nous exigeons que les créateurs de contenu pour enfants divulguent un contenu qui est significativement modifié ou généré par synthèse lorsqu'il semble réaliste», explique Elena Hernandez, porte-parole de YouTube. “Nous ne nécessitons pas de divulgation de contenu clairement irréaliste et qui ne trompe pas le spectateur en pensant que c'est réel.”

L'application pour enfants dédiée YouTube Kids est organisée à l'aide d'une combinaison de filtres automatisés, de révision humaine et de commentaires des utilisateurs pour trouver du contenu pour enfants bien fait. Mais de nombreux parents utilisent simplement la principale application YouTube pour indiquer le contenu de leurs enfants, en s'appuyant sur des titres vidéo, des listes et des images miniatures pour juger ce qui convient.

Jusqu'à présent, la plupart du contenu des enfants a apparemment généré par AI-AI, Wired trouvé sur YouTube a été mal fabriqué de manière similaire aux animations plus conventionnelles pour enfants à faible effort. Ils ont des visuels laids, des parcelles incohérentes et une valeur éducative nul – mais ne sont pas unique laid, incohérent ou pédagogiquement sans valeur.

Les outils d'IA facilitent la production d'un tel contenu et en plus grand volume. Certaines des chaînes câblées ont trouvé des vidéos longues, certaines de plus d'une heure. La nécessité d'un étiquette sur le contenu des enfants générées par l'IA pourrait aider les parents à filtrer les caricatures qui peuvent avoir été publiées avec un vérificateur humain minimal – ou entièrement sans – humain.