À l'époque, il y a seulement des mois – la chicanage de Marcus était technique. Mais maintenant que les modèles de grandes langues sont devenus un phénomène mondial, son objectif a changé. Le nœud du nouveau message de Marcus est que les chatbots d'Openai, Google et d'autres sont des entités dangereuses dont les pouvoirs conduiront à un tsunami de désinformation, de bogues de sécurité et d'hallucinations diffamatoires qui automatiseront la calomnie. Cela semble courtiser une contradiction. Pendant des années, Marcus avait accusé que les allégations des constructeurs de l'IA soient surchypées. Pourquoi l'IA est-elle maintenant si formidable que la société doit maintenant la retenir?

Marcus, toujours loquace, a une réponse: «Oui, j'ai dit depuis des années [LLMs] sont en fait assez stupides, et je le crois toujours. Mais il y a une différence entre le pouvoir et l'intelligence. Et nous leur donnons soudainement beaucoup de pouvoir. » En février, il s'est rendu compte que la situation était suffisamment alarmante pour qu'il passe la majeure partie de son énergie à résoudre le problème.

Marcus soutient que afin de contrer tous les dommages et destructions potentiels, les décideurs, les gouvernements et les régulateurs doivent faire des freins sur le développement de l'IA. Avec Elon Musk et des dizaines d'autres scientifiques, des nerds politiques et tout simplement des observateurs paniqués, il a signé la désormais célèbre pétition exigeant une pause de six mois dans la formation de nouveaux LLM. Mais il admet qu'il ne pense pas vraiment qu'une telle pause ferait une différence et qu'il a signé principalement pour s'aligner sur la communauté des critiques de l'IA. Au lieu d'un délai de formation, il préférerait une pause dans déploiement Nouveaux modèles ou itération de ceux qui en actuels. Cela devrait vraisemblablement être contraint aux entreprises, car il y a une concurrence féroce, presque existentielle, entre Microsoft et Google, avec Apple, Meta, Amazon et des startups non comptabilisées souhaitant entrer dans le jeu.

Marcus a une idée de qui pourrait faire l'application. Il a récemment insisté sur le fait que le monde a besoin, immédiatement, «une agence internationale mondiale, à but non lucratif pour l'IA», qui serait référée avec un acronyme qui ressemble à un cri (IAAI!).

Comme il a souligné dans un Op-ed il a co-auteur dans le Économisteun tel corps pourrait fonctionner comme l'Agence internationale de l'énergie atomique, qui effectue des audits et des inspections pour identifier les programmes nucléaires naissants. Vraisemblablement, cette agence surveillerait les algorithmes pour s'assurer qu'ils n'incluaient pas les biais ou ne promouvaient pas la désinformation ou ne prennent pas de réseaux électriques pendant que nous ne recherchons pas. Bien qu'il semble exagéré d'imaginer que les États-Unis, l'Europe et la Chine travaillent tous ensemble sur cela, peut-être que la menace d'un étranger, quoique local, de renseignement, notre espèce pourrait les conduire à agir dans l'intérêt de l'équipe humaine. Hé, cela a fonctionné avec cette autre menace mondiale, le changement climatique! Euh …

Dans tous les cas, la discussion sur le contrôle de l'IA gagnera encore plus de vapeur car la technologie se promène de plus en plus profondément dans nos vies. Attendez-vous donc à voir beaucoup plus de Marcus et une foule d'autres têtes parlantes. Et ce n'est pas une mauvaise chose. La discussion sur ce qu'il faut faire avec l'IA est saine et nécessaire, même si la technologie à évolution rapide peut bien développer quelles que soient toutes les mesures que nous adoptons minutieusement et tardivement. L'ascension rapide de Chatgpt dans un outil commercial polyvalent, un appareil de divertissement et un confident indique que, effrayant ou non, nous voulons ce genre de choses. Comme toutes les autres grandes avancées technologiques, la superintelligence semble destinée à nous apporter des avantages irrésistibles, même s'il change le lieu de travail, notre consommation culturelle et inévitablement nous.