Chercheurs et futuristes parle depuis des décennies du jour où les agents logiciels intelligents agiront en tant qu'assistants personnels, tuteurs et conseillers. Apple a produit son célèbre Navigateur de connaissances Vidéo en 1987. Je semble que je me souviens avoir assisté à un événement du MIT Media Lab dans les années 1990 sur les agents logiciels, où le modérateur est apparu comme un majordome, dans un chapeau de joueur. Avec l'avènement de l'IA générative, cette vision faillie du logiciel en tant qu'aide de camp est soudainement devenue au point. Wired's Knight a fourni un aperçu cette semaine de ce qui est disponible maintenant et de ce qui est imminent.

Je suis préoccupé par la façon dont cela va changer nouset nos relations avec les autres, à plus long terme. Beaucoup de nos interactions avec d'autres seront médiées par des bots agissant à notre place. Les assistants de robot sont différents des aides humaines: ils ne font pas de pauses, ils peuvent accéder instantanément à toutes les connaissances du monde et ils ne nécessiteront pas de payer un salaire décent. Plus nous les utilisons, plus il deviendra tentant de retourner des tâches que nous nous réservons autrefois.

À l'heure actuelle, les assistants de l'IA sont toujours non raffinés. Nous ne sommes pas encore au point où les robots autonomes prendront régulièrement des activités où les visses ne peuvent pas être tolérées, comme la réservation de vols, la prise de rendez-vous du médecin et la gestion des portefeuilles financiers. Mais cela changera, car cela le peut. Nous semblons destinés à vivre notre vie comme des pilotes de compagnies aériennes long-courriers – après avoir établi un cours, nous pouvons nous pencher en arrière dans le cockpit alors que l'IA dirige l'avion, passant en mode manuel si nécessaire. La crainte est que, finalement, ce soit les agents qui décident où se déroule l'avion en premier lieu.

Doomérisme Mis à part, nous devrons tous faire face aux agents supersmart et éventuellement manipulateurs de quelqu'un d'autre. Nous rendrons le contrôle de nos propres activités quotidiennes et de nos choix quotidiens, des listes de courses aux calendriers de rendez-vous, à nos propres assistants d'IA, qui interagiront également avec les agents de notre famille, de nos amis et de nos ennemis. À mesure qu'ils gagnent indépendance, nos aides automatisées peuvent finir par prendre des décisions ou des offres en notre nom qui ne sont pas du tout bonnes.

Pour une vision optimiste de cet avenir, je consulte Mustafa Suleyman. Cofondateur de la startup de l'IA Deepmind, maintenant le cœur du développement de l'IA de Google, il est maintenant PDG d'Inflection.ai, une entreprise développant des chatbots. Suleyman a également récemment pris la résidence Le New York Times Liste des best-sellers pour son livre La vague à venirce qui suggère comment les humains peuvent affronter les périls existentiels de l'IA. Dans l'ensemble, il est optimiste et bien sûr a une perspective rose sur les agents logiciels. Il décrit le bot que fait son entreprise, Pien tant que «chef d'état-major» personnel qui fournit non seulement la sagesse mais les encouragements et la gentillesse empathiques.

«Aujourd'hui, Pi n'est pas en mesure de vous réserver des restaurants ou d'organiser une voiture ou, vous savez, d'acheter des choses pour vous», dit Suleyman. “Mais à l'avenir, il aura votre proxy contractuel et juridique, ce qui signifie que vous avez accordé des autorisations pour conclure des contrats en votre nom, et dépenser de l'argent réel et vous lier à des accords importants dans le monde réel.” Également sur la carte routière: PI passera des appels téléphoniques au nom de son propriétaire et négociera avec les agents du service client.

Cela semble juste, car en ce moment, trop de ces agents de service sont déjà des robots, et – peut-être par conception? – ne sont pas ouverts à des arguments raisonnables que leurs employeurs d'entreprise boursent leurs propres clients. Inévitablement, nous lancerons notre IA dans les négociations avec d'autres IA dans tous les domaines de la vie. Suleyman reconnaît que nous ne voulons pas que ces robots deviennent trop confortables les uns avec les autres ou interagissent d'une manière non ouverte à l'inspection humaine. «Nous voulons en fait que la communication AI-To-AI soit limitée à l'anglais simple», explique Suleyman. «De cette façon, nous pouvons l'auditer.»