Ni oui! Neo ni Super Crazy Kids ont répondu à la demande de commentaires de Wired.

Quelques limites

Oui! Neo, des enfants super fous et d'autres chaînes similaires partagent un look commun – ils présentent une animation 3D dans un style similaire à Cocomelon, la chaîne pour enfants la plus populaire de YouTube aux États-Unis. (Dana Steiner, porte-parole de la société mère de Cocomelon, Moonbug, dit qu'aucun de ses émissions n'utilise actuellement l'IA, “mais notre équipe créative talentueuse explorait toujours de nouveaux outils et technologies.”)

Cette esthétique familière signifie qu'un parent occupé jette rapidement un coup d'œil à un écran pourrait confondre le contenu d'IA pour un programme qu'ils ont vérifié. Et bien qu'il ne soit pas particulièrement bien conçu, le contenu des vidéos publié par ces chaînes a tendance à être de mauvaise qualité de la même manière qu'une grande partie des divertissements pour enfants humains d'aujourd'hui est de mauvaise humeur – franc-dénommé, bruyant, non original.

YouTube est en train d'introduire de nouvelles politiques de contenu généré par l'IA, bien que l'entreprise ne cherche pas à le restreindre considérablement. «YouTube introduira bientôt des étiquettes de contenu et des exigences de divulgation pour les créateurs qui téléchargent du contenu qui contient un matériel réaliste altéré ou synthétique, y compris le contenu destiné aux enfants et aux familles», explique la porte-parole de YouTube, Elena Hernandez.

Lorsque Wired a demandé si YouTube cherchera de manière proactive le contenu généré par l'AI et l'étiquetera comme tel, Hernandez a déclaré que plus de détails viendront plus tard, mais qu'il prévoit de s'appuyer principalement sur la divulgation volontaire. «Notre approche principale sera d'obliger les créateurs eux-mêmes à divulguer lorsqu'ils ont créé un contenu modifié ou synthétique réaliste.» La société affirme qu'elle utilise une combinaison de filtres automatisés, d'examen humain et de rétroaction des utilisateurs pour déterminer quel contenu est accessible dans le plus restreint Service pour enfants YouTube.

Certains craignent que YouTube et les parents du monde entier ne soient pas suffisamment préparés pour la prochaine vague de contenu pour enfants générés par l'IA. Le neuroscientifique Erik Hoel a récemment regardé certains des tutoriels sur la création d'un contenu pour enfants avec l'IA, ainsi que des vidéos qu'il soupçonnait d'être réalisées en utilisant la technologie. Hoel était tellement instable par ce qu'il a vu qui a inventé le concept sur sa substitution, y compris en distinguant des enfants super fous. “Partout dans le pays, il y a des tout-petits placés devant les iPads soumis à un ruissellement synthétique, privé de contacts humains même dans les médias qu'ils consomment”, il a écrit. “Il n'y a pas d'autre mot que dystopique.”

L'avertissement de Hoel se souvient du dernier grand scandale sur YouTube des enfants, surnommé «Elsagate». Il a débuté en 2017 lorsque les gens ont commencé à remarquer vidéos surréalistes et dérangeantes destiné aux enfants sur la plate-forme, présentant souvent des personnages populaires comme Elsa de Disney CongeléSpiderman, et le héros porcin titulaire de Peppa cochon. Bien que le contenu généré par l'IA n'ait pas atteint un Nadir similaire, ses créateurs semblent poursuivre un objectif similaire d'attirer l'attention des recommandations automatisées de YouTube.

Baby Padre créatif

Certaines canaux vidéo IA plus obscurs se tournent déjà sur un territoire étrange. Le Channel Brain Nursey Egg TV, par exemple, donne ses noms de vidéos troublants comme «Cars for Kids. Traille La diapositive avec des paroles. La description de la vidéo est une gigantesque chaîne de mots clés, notamment «Disney Junior Elimi Birakma 24 Chima Sorozat Beamng-destruction Ali Babanın çiftliği şarkısı la brujita créativité Baby Padre Finger.»

La vidéo sans complot est une fusion de visuels glitchy comme des globes oculaires flottants et des blocs de couleur de couleur. La bande sonore présente des enfants applaudissant, une voix robotique comptant, des bébés individuels en riant et différentes voix robotiques intonant le mot «YouTube» à des intervalles apparemment aléatoires. «Cela a généré des voix tout au long et est soit alimenté par un script généré par l'AI, soit peut être l'une des œuvres les plus grandes et les plus sous-estimées de l'art vidéo surréaliste dans la mémoire récente», explique Colman de Reality Defender. Quoi qu'il en soit, ce type de contenu n'a pas encore pris beaucoup de traction – certaines des vidéos de la chaîne n'ont qu'une poignée de vues. Brain Nursery Egg TV ne fournit pas d'adresse e-mail ou d'une toute autre façon de contacter ceux qui exécutent la chaîne.