Ed Newton-Rex dit que Generative IA a un problème d'éthique. Il devrait le savoir, car il faisait partie de l'industrie à croissance rapide. Newton-Rex était le concepteur de Tiktok's Head AI, puis un cadre de Stabilité AI jusqu'à ce qu'il s'arrête de dégoût en novembre sur le position de l'entreprise sur la collecte de données de formation.

Après son départ de haut niveau, Newton-Rex s'est lancé dans la conversation après une conversation sur ce à quoi ressemblerait l'éthique de l'IA dans la pratique. «Cela m'a frappé qu'il y a beaucoup de gens qui veulent utiliser des modèles d'IA génératifs qui traitent équitablement les créateurs», dit-il. “Si vous pouvez leur donner de meilleurs outils de prise de décision, c'est utile.”

L’organisation à but non lucratif d’Ed Newton-REX essaie d’encourager les entreprises à se réfléchir davantage sur l’approvisionnement en formation de formation pour les projets d’IA.

Avec l'aimable autorisation d'Ed Newton-Rex

Maintenant, Newton-Rex a lancé un nouvel organisme à but non lucratif, Assez formépour donner aux gens exactement ce type d'outil de prise de décision. Il propose un programme de certification pour identifier les entreprises d'IA qui concédaient à leurs données de formation. L'industrie de l'IA a désormais sa propre version de ces étiquettes de certification «Fair Trade» que vous voyez sur le café.

Pour gagner l'étiquette de certification de Fairly Trewated, qu'il appelle L certificationune entreprise doit prouver que ses données de formation étaient soit explicitement autorisées à des fins de formation, dans le domaine public, offertes en vertu d'une licence ouverte appropriée, soit déjà appartenant à l'entreprise.

Jusqu'à présent, neuf sociétés ont reçu la certification, notamment le générateur d'images Bria AI, qui s'entraîne exclusivement sur des données sous licence de sources comme Getty Images, et la plate-forme de génération de musique LifeScore Music, que les licences fonctionnent à partir de toutes les principales étiquettes de disques. Plusieurs autres sont sur le point de terminer leur certification. L'organisme à but non lucratif facture des frais de 500 $ à 6 000 $, selon la taille de l'activité du demandeur.

Openai – la principale entreprise de l'IA génératrice mondiale –récemment argumenté qu'il est impossible de créer des services d'IA génératifs comme ChatGpt sans utiliser de données non licenciées. Newton-Rex et les premières sociétés à obtenir le sceau d'approbation de Fairly Certified en désaccord. «Nous le considérons déjà comme une chose obligatoire à faire», explique le PDG de Bria, Yair Adato, des données de licence. Il compare les modèles d'IA construits sur des données sans licence à Napster et à la baie de Pirate, et à sa propre entreprise à Spotify. «Il est vraiment facile pour nous d'être conformes», explique le cofondateur de LifeSCore Music, Tom Gruber, qui est également conseiller de la certification équitablement certifiée. «L'entreprise de musique se soucie vraiment de la provenance et des droits.»

Newton-Rex dit qu'il a le soutien de groupes commerciaux comme l'Association of American Publishers et l'Association of Independent Music Publishers, ainsi que des sociétés comme Universal Music Group. Mais le mouvement pour renverser l'approche standard de l'industrie de l'IA de gratter les données de formation à volonté en est encore à ses balbutiements. Et assez formé est une opération à un seul homme. Pas ces esprits de Newton-Rex; Il a toujours l'état d'esprit d'un fondateur de startup. «Je crois en l'expédition des choses tôt», dit-il.

L'organisme à but non lucratif n'est pas non plus le seul à essayer de normaliser l'idée d'étiqueter les produits d'IA avec des informations sur leurs ingrédients. L'ancien directeur de Warner Music Group, Howie Singer, qui étudie maintenant comment la technologie change l'industrie musicale, voit des similitudes entre l'initiative assez formée et l'initiative d'authenticité du contenu, un projet dirigé par Adobe pour aider les gens à suivre l'authenticité des images. «C'est une bonne étape», dit-il à propos du projet de Newton-Rex.