Modèles qui sont libérés sous des licences open source normales, comme Gpt neo de l'organisme à but non lucratif Eleutheraisont plus entièrement ouverts, disent les chercheurs. Mais il est difficile pour de tels projets de se mettre sur un pied d'égalité.

Premièrement, les données nécessaires pour former des modèles avancés sont souvent gardées secrètes. Deuxièmement, les cadres logiciels nécessaires pour construire ces modèles sont souvent contrôlés par les grandes entreprises. Les deux plus populaires, Tensorflow et Pytorch, sont respectivement entretenus par Google et Meta. Troisièmement, la puissance informatique requise pour former un grand modèle est également hors de portée de tout développeur ou entreprise normal, nécessitant généralement des dizaines ou des centaines de millions de dollars pour une seule formation. Et enfin, le travail humain requis pour la finesse et améliorer ces modèles est également une ressource qui n'est principalement disponible que pour les grandes entreprises avec des poches profondes.

La façon dont les choses se dirigent, l'une des technologies les plus importantes depuis des décennies pourrait finir par enrichir et autonomiser une poignée d'entreprises, notamment Openai, Microsoft, Meta et Google. Si l'IA est vraiment une technologie si changeante dans le monde, les plus grands avantages pourraient être ressentis s'ils étaient rendus plus largement disponibles et accessibles.

«Ce que notre analyse souligne, c'est que l'ouverture ne sert pas seulement à« démocratiser »l'IA», ” Meredith Whittakerle président de Signal et l'un des chercheurs derrière le journal me le dit. «En effet, nous montrons que les entreprises et les institutions peuvent et ont exploité des technologies« ouvertes »pour ancrer et étendre le pouvoir centralisé.»

Whittaker ajoute que le mythe de l'ouverture devrait être un facteur dans les réglementations indispensables de l'IA. «Nous avons beaucoup besoin d'alternatives significatives à la technologie définie et dominée par de grandes sociétés monopolistiques – en particulier en tant que systèmes d'IA, intégrés dans de nombreux domaines très sensibles avec un impact public particulier: dans les soins de santé, la finance, l'éducation et le lieu de travail», dit-elle. «Créer les conditions pour rendre ces alternatives possibles est un projet qui peut coexister avec et même être soutenu par des mouvements réglementaires tels que les réformes antitrust.»

Au-delà de la vérification de la puissance des grandes entreprises, rendre l'IA plus ouverte pourrait être crucial pour débloquer le meilleur potentiel de la technologie et éviter ses pires tendances.

Si nous voulons comprendre à quel point les modèles d'IA les plus avancés sont capables et atténuer les risques qui pourraient s'accompagner de déploiement et de progrès supplémentaires, il pourrait être préférable de les ouvrir aux scientifiques du monde.

Tout aussi Sécurité par l'obscurité Ne garantit jamais vraiment que le code s'exécutera en toute sécurité, la garde du fonctionnement de modèles d'IA puissants peut ne pas être le moyen le plus intelligent de procéder.