Meta’s Open Source Llama Upsets the AI Horse Race

La licence de Meta pour LLAMA 2 exige également que les entreprises de plus de 700 millions d'utilisateurs actifs mensuels établissent un accord de licence distinct avec Meta. On ne sait pas pourquoi, mais la clause crée une barrière aux autres géants de la technologie qui s'appuient sur le système. Le modèle est également livré avec une politique d'utilisation acceptable, qui interdit la génération de code malveillant, la promotion de la violence ou l'activation des activités criminelles, des abus ou du harcèlement. Meta n'a pas répondu à une question sur les actions que cela pourrait prendre si Llama 2 a été utilisé en violation de cette politique.

Jon Turow, un investisseur de Madrona Ventures à Seattle, dit que le pivot de Meta pour essayer de restreindre la distribution du premier modèle de lama à l'ouverture de la seconde pourrait permettre une nouvelle vague de créativité en utilisant de grands modèles de langue. «Les développeurs et les entrepreneurs sont très ingénieux, et ils vont découvrir ce qu'ils peuvent sortir de Llama 2», dit-il.

Turrow compare le choix de Meta pour publier Llama 2 ce mois-ci à Google présentant le système d'exploitation mobile Android en 2007 pour rivaliser avec iOS d'Apple. En donnant une alternative bon marché mais puissante, la méta peut devenir un contrepoids aux systèmes propriétaires comme le type développé par OpenAI, suscitant l'innovation qui pourrait renvoyer des idées qui aident à améliorer les méta-produits et services.

Llama 2 est le premier modèle ouvertement publié à égalité avec Chatgpt, explique Nathan Lambert, chercheur en IA à Hugging Face, une startup qui publie un logiciel d'apprentissage machine open source, y compris des modèles génératifs. Il ne considère pas le projet vraiment open source, en raison des divulgations limitées de Meta sur son développement, mais il est étonné par le nombre de variations LLAMA 2 qu'il voit dans son flux de médias sociaux. Un exemple est la dernière version de Wizardlmun système d'IA, similaire à Chatgpt, conçu pour suivre les instructions complexes. Huit modèles sur 10 tendance actuellement En étreignant la face, dont un certain nombre sont conçues pour générer du texte conversationnel, sont des variations de Llama 2.

«Je pense qu'il y a un cas à faire pour que Llama 2 soit le plus grand événement de l'année dans l'IA», explique Lambert. Il dit que les modèles propriétaires ont l'avantage aujourd'hui, mais il estime que les versions ultérieures de Llama rattraperont leur retard et, peu de temps, pourront effectuer des tâches pour lesquelles les gens se tournent vers Chatgpt pour aujourd'hui.

Lambert dit également que la version de Llama 2 laisse un certain nombre de questions sans réponse, en partie en raison du manque de documentation des données de formation. Et il restera toujours le cas que seuls les principaux acteurs comme Meta, Google, Microsoft et Openai auront les ressources informatiques et le personnel nécessaires pour créer des modèles de grande langue.

Mais il espère que, malgré le succès de l'approche propriétaire d'Openai, les modèles linguistiques se déplacent dans une époque de transparence. Un accord volontaire entre la Maison Blanche et sept grandes sociétés d'IA appelle à des tests de choses comme le potentiel de discrimination ou l'impact sur la société ou la sécurité nationale avant le déploiement.

C'est une tendance qui pourrait être contestée par des questions croissantes sur la responsabilité juridique pour les systèmes d'IA et l'augmentation de la pression réglementaire des politiciens, qui craignent que les acteurs malveillants commencent à utiliser des modèles open source.

Comme Demis Hassabisle chercheur de l'IA menant désormais le développement de l'IA de Google, Turow n'est pas d'accord avec l'affirmation faite par le mémo Google divulgué que l'informatique et d'autres grandes sociétés d'IA sont menacées par l'IA open source. Il pense que les données, les talents et l'accès à la puissance informatique continueront de protéger les plus grandes entreprises technologiques, mais ne les rendent pas invincibles.

Il regarde maintenant pour voir ce que font les startups et les chercheurs avec Llama 2, s'attendant à les voir rapidement l'améliorer, comme cela s'est produit avec la première itération du modèle de Meta. Il dit que cela devrait créer de nouvelles possibilités pour les startups et le domaine plus large de l'IA. «Nous constatons que l'open source s'améliore en permanence de mieux en mieux, donc il peut y avoir des surprises qui ont bouleversé les premiers dirigeants», explique Turow. «Je ne sais pas ce qui va se passer.»