Goody-2 souligne également comment, bien que les discussions sur les entreprises d'IA et de déviation responsables par les chatbots soient devenues plus courantes, les problèmes de sécurité graves avec des modèles de langue importants et des systèmes d'IA génératifs restent non résolus. La récente épidémie de Taylor Swift Deepfakes sur Twitter s'est avérée provenir d'un Générateur d'images publié par Microsoftqui a été l'une des premières grandes entreprises technologiques à développer et à maintenir un programme de recherche d'IA responsable important.

Les restrictions imposées aux chatbots d'IA et la difficulté à trouver un alignement moral qui plaît à tout le monde, est déjà devenu un sujet de débat. Certains développeurs ont allégué que le Chatgpt d'Openai avait un biais de gauche et a cherché à construire une alternative plus politiquement neutre. Elon Musk a promis que son propre rival de Chatgpt, Grok, serait moins biaisé que d'autres systèmes d'IA, bien qu'en fait, cela finit souvent par équivoquer d'une manière qui peut rappeler Goody-2.

De nombreux chercheurs d'IA semblent apprécier la blague derrière Goody-2 – ainsi que les points sérieux soulevés par le projet – éloge et recommandations pour le chatbot. “Qui dit que l'IA ne peut pas faire de l'art”, ” Toby Walshprofesseur à l'Université de Nouvelle-Galles du Sud qui travaille sur la création de l'IA digne de confiance, Publié sur x.

“Au risque de ruiner une bonne blague, cela montre également à quel point il est difficile de bien faire les choses”, ” ajouté Ethan Mollickprofesseur à la Wharton Business School qui étudie AI. “Certains garde-corps sont nécessaires … mais ils obtiennent un rapide intrusif.”

Brian Moore, l'autre co-PDG de Goody-2, affirme que le projet reflète une volonté de hiérarchiser la prudence plus que les autres développeurs d'IA. «Il est vraiment axé sur la sécurité, avant tout, ci-dessus littéralement tout le reste, y compris l'utilité et l'intelligence et vraiment toute sorte d'application utile», dit-il.

Moore ajoute que l'équipe derrière le chatbot explore les moyens de construire un générateur d'images IA extrêmement sûr, bien qu'il semble que cela pourrait être moins divertissant que Goody-2. «C'est un domaine passionnant», explique Moore. “Le flou serait une étape que nous pourrions voir en interne, mais nous voudrions à pleurer l'obscurité ou potentiellement aucune image à la fin.”

Goody-2 via Will Knight