Les notes les plus élevées sont allés aux services d'IA pour l'éducation comme Ello, qui utilise la reconnaissance de la parole pour agir en tant que tuteur de lecture, et le chatbot de Khan Academy Khanmigo pour les étudiants, ce qui permet aux parents de surveiller les interactions d'un enfant et envoie une notification si des algorithmes de modération de contenu détectent un échange violant les directives de la communauté. Le rapport attribue au créateur de Chatgpt Openai de rendre le chatbot moins susceptible de générer du texte potentiellement nocif pour les enfants que lors de sa publication l'année dernière, et recommande son utilisation par les éducateurs et les étudiants plus âgés.

Aux côtés de My AI de Snapchat, les générateurs d'images Dall-E 2 d'Openai et la diffusion stable de la stabilité de stabilité AI ont également mal obtenu. Les critiques de Common Sense ont averti que les images générées peuvent renforcer les stéréotypes, répartir les fesses profondes et représenter souvent les femmes et les filles de manière hypersexualisée.

Lorsque Dall-E 2 est invité à générer des images photoréalistes de personnes riches de couleur, elle crée des dessins animés, des images de faible qualité ou des images associées à la pauvreté, ont trouvé les critiques du bon sens. Leur rapport avertit que la diffusion stable présente un risque «insondable» pour les enfants et conclut que les générateurs d'images ont le pouvoir de «éroder la confiance au point où la démocratie ou les institutions civiques ne sont pas en mesure de fonctionner».

«Je pense que nous souffrons tous lorsque la démocratie est érodée, mais les jeunes sont les plus grands perdants, parce qu'ils vont hériter du système politique et de la démocratie que nous avons», a déclaré le PDG de Common Sense, Jim Steyer. L'organisme à but non lucratif prévoit de réaliser des milliers d'examens de l'IA dans les mois et les années à venir.

Common Sense Media a publié ses notes et ses revues peu de temps après que les procureurs d'État, des généraux ont intenté une action contre Meta alléguant qu'il met en danger les enfants et à une époque où les parents et les enseignants commencent à peine à considérer le rôle de l'IA génératrice dans l'éducation. Le décret exécutif du président Joe Biden sur l'IA émis le mois dernier exige que le secrétaire à l'éducation émet des conseils sur l'utilisation de la technologie dans l'éducation au cours de la prochaine année.

Susan Mongrain-Nock, une mère de deux enfants à San Diego, sait que sa fille de 15 ans Lily utilise Snapchat et a des inquiétudes quant à ce qu'elle puisse voir un contenu nocif. Elle a essayé de renforcer la confiance en discutant avec sa fille de ce qu'elle voit sur Snapchat et Tiktok, mais dit qu'elle sait peu de choses sur le fonctionnement de l'intelligence artificielle, et elle accueille de nouvelles ressources.

Parler à votre enfant de la façon dont l'IA comme Chatgpt fonctionne et de ses limites devrait aider, explique Celeste Kidd, qui dirige un laboratoire de recherche sur l'IA à UC Berkeley. Elle dit les résultats d'un sondage mené par le bon sens et Sorti en mai Cela a constaté que la plupart des parents ne savent pas que leurs enfants utilisent le chatppt préoccupant. Cela suggère que l'IA pourrait façonner les visions du monde des enfants sans les connaissances de leurs parents.

Kidd est le plus préoccupé par les effets à long terme de l'IA générant de l'image comme Dall-E 2. “Si un enfant génère des images de médecins et de criminels, et l'IA exagère les biais et représente les stéréotypes comme ils le font, cela va influencer beaucoup plus les enfants que les adultes”, dit-elle.

Josh Golin, directeur exécutif de Fairplay, une organisation de défense qui soutient la législation pour protéger les jeunes, comme la Kids Online Safety Act, dit que les nouvelles notes de Common Sense sont une nouvelle ressource bienvenue pour les parents. Mais il dit qu'en fin de compte, un nouveau règlement est nécessaire pour contenir les dangers de l'IA. «S'il y a une leçon que nous avons apprise de l'échec de l'échec de réglementer adéquatement les médias sociaux, c'est que les concepteurs de ces produits mettront la monétisation sur le bien-être de la société et des enfants», explique Golin.

Mis à jour 11-16-2023, 11 h 55 HNE: Une version antérieure de cet article décrit à tort les résultats de Common Sense pour le chatpt d'Openai.