La première fois Nous parlons, Joep Meindertsma n'est pas au bon endroit. Il se déchire alors qu'il décrit une conversation dans laquelle il a averti sa nièce du risque d'intelligence artificielle provoquant un effondrement sociétal. Par la suite, elle a eu une crise de panique. «Je pleure tous les deux jours», dit-il, s'exprimant sur Zoom depuis sa maison dans la ville néerlandaise d'Utrecht. «Chaque fois que je dis au revoir à mes parents ou amis, j'ai l'impression que ce pourrait être la dernière fois.»

Meindertsma, qui est 31 ans et copropriétaire d'une entreprise de base de données, s'intéresse à l'IA depuis quelques années. Mais il a vraiment commencé à s'inquiéter de la menace que la technologie pourrait constituer pour l'humanité lors de l'Open IA a publié son dernier modèle de langue, Gpt-4en mars. Depuis lors, il a regardé le succès en fuite de Chatgpt Chatbot – basé d'abord sur GPT-3 puis GPT-4 – a constaté au monde jusqu'où l'IA a progressé et la course des entreprises de grandes technologies pour rattraper son retard. Et il a vu des pionniers comme Geoffrey Hinton, le soi-disant parrain de l'IA, mettant en garde contre les dangers associés aux systèmes qu'ils ont aidé à créer. «Les capacités de l'IA avancent beaucoup plus rapidement que pratiquement quiconque ne l'a prédit», explique Meindertsma. «Nous risquons l'effondrement social. Nous risquons l'extinction humaine.»

Un mois avant notre discours, Meindertsma a cessé d'aller travailler. Il était devenu tellement consommé par l'idée que l'IA allait détruire la civilisation humaine qu'il avait du mal à penser à autre chose. Il devait faire quelque chose, sentait-il, pour éviter le désastre. Peu de temps après, il a lancé Pause AI, un groupe de protestation de base qui fait campagne pour, comme son nom l'indique, un arrêt du développement de l'IA. Et depuis lors, il a accumulé un petit groupe d'adeptes qui ont organisé des manifestations à Bruxelles, Londres, San Francisco et Melbourne. Ces manifestations ont été petites – plus de 10 personnes à chaque fois – mais Meindertsma s'est fait des amis en hauts lieux. Déjà, dit-il, il a été invité à parler avec des fonctionnaires au sein du Parlement néerlandais et à la Commission européenne.

L'idée que l'IA pourrait éliminer l'humanité semble extrême. Mais c'est une idée qui gagne du terrain dans le secteur technologique et dans la politique traditionnelle. Hinton a quitté son rôle chez Google en mai et s'est lancé dans une série mondiale d'entretiens dans lesquels il a élevé le spectre des humains qui ne pouvait plus contrôler l'IA à mesure que la technologie progresse. Ce même mois, les chefs de file de l'industrie – y compris les PDG des laboratoires de l'IA Google Deepmind, Openai et Anthropic – ont signé une lettre reconnaissant le «risque d'extinction», et le Premier ministre britannique Rishi Sunak est devenu le premier chef du gouvernement à admettre publiquement qu'il pense également que l'IA présente un risque existentiel pour l'humanité.

Meindertsma et ses partisans offrent un aperçu de la façon dont ces avertissements se déroulent dans la société, créant un nouveau phénomène d'anxiété de l'IA et donnant une génération plus jeune – dont beaucoup sont déjà profondément inquiets du changement climatique – une nouvelle raison de se sentir paniquée à propos de l'avenir. UN enquête Par le sondeur, Yougov a constaté que la proportion de personnes craignait que l'intelligence artificielle ne conduise à une apocalypse augmente fortement l'année dernière. Hinton nie qu'il souhaite que le développement de l'IA soit arrêté, temporairement ou indéfiniment. Mais ses déclarations publiques, sur le risque que l'IA présente à l'humanité, a abouti à un groupe de jeunes qui pensent qu'il n'y a pas d'autre choix.

À différentes personnes, «Risque existentiel» signifie différentes choses. «Le scénario principal qui m'inquiète personnellement est l'effondrement social en raison d'un piratage à grande échelle», explique Meindertsma, expliquant qu'il est préoccupé par le fait que l'IA est utilisé pour créer des cyber-armes bon marché et accessibles qui pourraient être utilisées par les criminels pour «retirer efficacement l'ensemble de l'Internet». C'est un scénario que les experts disent est extrêmement improbable. Mais Meindertsma s'inquiète toujours de la résilience des services bancaires et de distribution des aliments. «Les gens ne pourront pas trouver de nourriture dans une ville. Les gens se battront», dit-il. “Beaucoup de milliards, je pense, mourront.”