Sébastien Bubeck, chercheur à l'apprentissage automatique chez Microsoft, s'est réveillé une nuit en septembre dernier en pensant à l'intelligence artificielle et aux licornes.

Bubeck avait récemment obtenu un accès précoce à GPT-4, un algorithme de génération de texte puissant d'OpenAI et une mise à niveau du modèle d'apprentissage automatique au cœur du chatbot chatbot très populaire. Bubeck faisait partie d'une équipe qui travaillait pour intégrer le nouveau système d'IA dans le moteur de recherche Bing de Microsoft. Mais lui et ses collègues se sont émerveillés par la différence de GPT-4 de tout ce qu'ils avaient vu auparavant.

GPT-4, comme ses prédécesseurs, avait été nourri de quantités massives de texte et de code et formé pour utiliser les modèles statistiques de ce corpus pour prédire les mots qui devraient être générés en réponse à une entrée de texte. Mais pour bouillonner, la sortie du système semblait faire bien plus que faire des suppositions statistiquement plausibles.

Cette nuit-là, Bubeck s'est levé, est allé sur son ordinateur et a demandé à GPT-4 de dessiner une licorne en utilisant Tikzun langage de programmation relativement obscur pour générer des diagrammes scientifiques. Bubeck utilisait une version de GPT-4 qui n'a fonctionné qu'avec du texte, pas des images. Mais le code que le modèle lui a présenté, lorsqu'il est introduit dans un logiciel de rendu Tikz, a produit une image brute mais distinctement licorny pavée ensemble à partir d'ovales, de rectangles et d'un triangle. Pour Bubeck, un tel fraîcheur nécessitait sûrement une compréhension abstraite des éléments d'une telle créature. «Quelque chose de nouveau se passe ici», dit-il. “Peut-être que pour la première fois, nous avons quelque chose que nous pourrions appeler l'intelligence.”

Comment l'IA intelligente devient – et combien de confiance sentiment qu'un logiciel est intelligent – est devenu une question pressante, presque induisant la panique.

Après Openai publié chatpptpuis alimenté par GPT-3, en novembre dernier, il a stupéfait le monde avec sa capacité à écrire de la poésie et de la prose sur un vaste éventail de sujets, de résoudre des problèmes de codage et de synthétiser les connaissances du Web. Mais Awe a été associé à un choc et à une préoccupation concernant le potentiel de fraude scolaire, de désinformation et de chômage de masse – et craint que des entreprises comme Microsoft se précipitent pour développer une technologie qui pourrait s'avérer dangereuse.

Comprendre le potentiel ou les risques des nouvelles capacités de l'IA signifie avoir une compréhension claire de ces capacités – et ne le sont pas. Mais bien qu'il y ait un large accord selon lequel Chatgpt et des systèmes similaires donnent aux ordinateurs de nouvelles compétences, les chercheurs commencent à peine à étudier ces comportements et à déterminer ce qui se passe derrière l'invite.

Alors qu'Openai a promu GPT-4 en vantant ses performances sur les examens Bar et Med School, les scientifiques qui étudient les aspects de l'intelligence humaine disent que ses capacités remarquables diffèrent de nos propres manières cruciales. La tendance des modèles à inventer est bien connu, mais la divergence va plus loin. Et avec des millions de personnes utilisant la technologie tous les jours et les entreprises pariant leur avenir à ce sujet, c'est un mystère d'une grande importance.

Étincelles de désaccord

Bubeck et d'autres chercheurs de l'IA de Microsoft ont été inspirés à Wade dans le débat par leurs expériences avec GPT-4. Quelques semaines après la branche du système sur Bing et sa nouvelle fonctionnalité de chat a été lancée, la société publié un journal affirmant que dans les premières expériences, le GPT-4 a montré «des étincelles de l'intelligence générale artificielle».

Les auteurs ont présenté une diffusion d'exemples dans lesquels le système a effectué des tâches qui semblent refléter l'intelligence plus générale, nettement au-delà des systèmes précédents tels que GPT-3. Les exemples montrent que contrairement à la plupart des programmes d'IA précédents, le GPT-4 ne se limite pas à une tâche spécifique mais peut transformer sa main vers toutes sortes de problèmes – une qualité nécessaire de l'intelligence générale.