Serait-ce trop perturbateur si les manifestations ont organisé des sit-ins ou se sont enchaînées aux portes des développeurs de l'IA, a demandé un membre de la discorde. «Probablement pas. Nous faisons ce que nous devons, en fin de compte, pour un avenir avec l'humanité, alors que nous le pouvons encore. »

Meindertsma s'était inquiété des conséquences de l'IA après avoir lu Superintelligenceun livre de 2014 du philosophe Nick Bostrom qui a popularisé l'idée que les systèmes d'IA très avancés pourraient poser un risque pour l'existence humaine. Joseph Miller, l'organisateur de la manifestation de Pauseai à Londres a également été inspiré.

C'est le lancement du grand modèle de langue d'Openai Chat-GPT 3 en 2020 qui a vraiment inquiet Miller à propos de la trajectoire de l'IA. «J'ai soudain réalisé que ce n'est pas un problème pour un avenir lointain, c'est quelque chose où l'IA devient vraiment bien maintenant», dit-il. Miller a rejoint un organisme à but non lucratif de recherche sur la sécurité de l'IA et s'est ensuite impliqué avec Pauseai.

Les idées de Bostrom ont eu une influence sur la communauté «efficace de l'altruisme», un vaste mouvement social qui comprend les adhérents du long terme: l'idée qui influencer l'avenir à long terme devrait être une priorité morale des humains aujourd'hui. Bien que de nombreux organisateurs de Pauseai aient des racines dans le mouvement efficace de l'altruisme, ils sont désireux d'atteindre au-delà de la philosophie et d'obtenir plus de soutien à leur cause.

Le directeur de la pause AI US, Holly Elmore, souhaite que le mouvement soit une «grande église» qui comprend des artistes, des écrivains et des titulaires de droit d'auteur dont les moyens de subsistance sont mis en danger des systèmes d'IA qui peuvent imiter les œuvres créatives. «Je suis utilitaire. Je pense finalement aux conséquences, mais l'injustice qui me pousse vraiment à faire ce genre d'activisme est le manque de consentement »des entreprises produisant des modèles d'IA, dit-elle.

«Nous n'avons pas à choisir quel préjudice d'IA est le plus important lorsque nous parlons de pause en tant que solution. La pause est la seule solution qui les aborde tous. »

Miller a fait écho à ce point. Il dit qu'il a parlé à des artistes dont les moyens de subsistance ont été touchés par la croissance des générateurs d'art de l'IA. “Ce sont des problèmes qui sont réels aujourd'hui et sont des signes de choses beaucoup plus dangereuses à venir.”

L'un des manifestants de Londres, Gideon Fuerman, a une pile de dépliants qu'il tente de distribuer aux fonctionnaires quittant le bâtiment en face. Il a protesté avec le groupe depuis l'année dernière. «L'idée d'une pause possible a vraiment pris racine depuis lors», dit-il.

Fuerman est optimiste selon laquelle les mouvements de protestation peuvent influencer la trajectoire des nouvelles technologies. Il souligne que le recul contre les organismes génétiquement modifiés a joué un rôle déterminant dans la désactivation de l'Europe de la technologie dans les années 1990. Il en va de même pour l'énergie nucléaire. Ce n'est pas que ces mouvements avaient nécessairement les bonnes idées, dit-il, mais elles prouvent que les protestations populaires peuvent entraver la marche, même des technologies qui promettent une puissance à faible teneur en carbone ou des cultures plus abondantes.

À Londres, le groupe de manifestants se déplace de l'autre côté de la rue afin de proposer des tracts à un flux de fonctionnaires quittant les bureaux du gouvernement. La plupart semblent fermement inintéressés, mais certains prennent une feuille. Plus tôt dans la journée, Rishi Sunak, le Premier ministre britannique qui six mois plus tôt avait accueilli le premier sommet de la sécurité de l'IA, avait prononcé un discours où il a hoché la tête aux craintes de l'IA. Mais après cette référence de passage, il s'est concentré fermement sur les avantages potentiels.

Les dirigeants de l'IA de Pause avec lesquels il a parlé a déclaré qu'ils ne considéraient pas des actions directes plus perturbatrices telles que les sit-ins ou les campements près des bureaux de l'IA pour l'instant. «Nos tactiques et nos méthodes sont en fait très modérés», explique Elmore. «Je veux être la base modérée pour de nombreuses organisations dans cet espace. Je suis sûr que nous ne tolérions jamais la violence. Je veux aussi que PAUSE AI va plus loin que cela et soyez juste très fiable. »

Meindertsma est d'accord, disant que l'action plus perturbatrice n'est pas justifiée pour le moment. «J'espère vraiment que nous n'avons pas besoin de prendre d'autres mesures. Je ne m'attends pas à ce que nous en aurons besoin. Je n'ai pas l'impression d'être le type de personne pour diriger un mouvement qui n'est pas complètement légal. “

Le fondateur de PAUSE AI espère également que son mouvement pourra perdre le label «IA DOOMER». «Un condamné est quelqu'un qui abandonne l'humanité», dit-il. «Je suis une personne optimiste; Je crois que nous pouvons faire quelque chose à ce sujet.