AI Needs to Be Both Trusted and Trustworthy

En 2016, j'ai écrit sur un Internet qui a affecté le monde de manière directe et physique. Il était connecté à votre smartphone. Il avait des capteurs comme les caméras et les thermostats. Il avait des actionneurs: thermostats, drones, voitures autonomes. Et il avait des intelligences au milieu, en utilisant des données de capteur pour déterminer quoi faire, puis le faire. C'était l'Internet des objets.

La définition classique d'un robot est quelque chose qui sent, pense et agit – c'est Internet d'aujourd'hui. Nous avons construit un robot de taille mondiale sans même s'en rendre compte.

En 2023, nous avons mis à niveau la partie «pensée» avec de grands modèles de langue (LLM) comme GPT. Chatgpt a à la fois surpris et étonné le monde avec sa capacité à comprendre le langage humain et à générer des réponses crédibles, sur le sujet et de type humain. Mais ce que ceux-ci sont vraiment bons, c'est interagir avec des systèmes autrefois conçus pour les humains. Leur précision ira mieux et ils seront utilisés pour remplacer les humains réels.

En 2024, nous allons commencer à connecter ces LLM et autres systèmes d'IA aux capteurs et aux actionneurs. En d'autres termes, ils seront connectés au monde plus large, à travers des API. Ils recevront des intrants directs de notre environnement, sous toutes les formes que j'ai pensé en 2016. Et ils contrôleront de plus en plus notre environnement, à travers les appareils IoT et au-delà.

Il commencera petit: résumer les e-mails et écrire des réponses limitées. Discuter avec le service client – sur le chat – pour les changements de service et les remboursements. Faire des réservations de voyage.

Mais ces IA interagiront également avec le monde physique, contrôlant d'abord les robots, puis auront ces robots comme faisant partie d'eux. Votre thermostat à AI-AI tournera le feu et la climatisation en fonction de qui est dans quelle pièce, leurs préférences et où ils sont susceptibles d'aller ensuite. Il négociera avec la compagnie d'électricité pour les tarifs les moins chers en planifiant l'utilisation d'appareils électroménagers à haute énergie ou de recharge de voiture.

C'est le truc facile. Les véritables changements se produiront lorsque ces AIS se regroupent dans une intelligence plus grande: un vaste réseau de production d'électricité et de consommation d'énergie, avec chaque bâtiment un nœud, comme une colonie de fourmis ou une armée humaine.

Les futurs systèmes de contrôle industriel comprendront des robots d'usine traditionnels, ainsi que des systèmes d'IA pour planifier leur fonctionnement. Il commandera automatiquement les fournitures et coordonnera l'expédition finale des produits. L'IA gérera ses propres finances, interagissant avec d'autres systèmes dans le monde bancaire. Il appellera les humains au besoin: réparer les sous-systèmes individuels ou faire des choses trop spécialisées pour les robots.

Envisagez des voitures sans conducteur. Les véhicules individuels ont des capteurs, bien sûr, mais ils utilisent également des capteurs intégrés dans les routes et sur les pôles. Le traitement réel se fait dans le nuage, par un système centralisé qui pilote tous les véhicules. Cela permet aux voitures individuelles de coordonner leur mouvement pour plus d'efficacité: freinage en synchronisation, par exemple.

Ce sont des robots, mais pas le genre familier des films et de la télévision. Nous considérons normalement les robots comme des objets métalliques discrets, avec des capteurs et des actionneurs à leur surface et du traitement de la logique à l'intérieur. Mais nos nouveaux robots sont différents. Leurs capteurs et actionneurs sont distribués dans l'environnement. Leur traitement est ailleurs. Ce sont un réseau d'unités individuelles qui ne deviennent un robot que dans le total.

Cela tourne notre notion de sécurité sur sa tête. Si AIS massif et décentralisé gère tout, alors qui contrôle ces AIS compte beaucoup. C'est comme si tous les assistants exécutifs ou avocats d'une industrie travaillaient pour la même agence. Une IA qui est à la fois fiable et digne de confiance deviendra une exigence critique.

Cet avenir nous oblige à nous voir moins comme des individus, et plus comme des parties de systèmes plus grands. C'est Ai comme la nature, comme Gaia – tout comme un seul système. C'est un avenir plus aligné sur la philosophie bouddhiste de l'interconnexion que les idées occidentales de l'individualité. (Et aussi avec des dystopies de science-fiction, comme Skynet du Terminateur films.) Il faudra repenser une grande partie de nos hypothèses sur la gouvernance et l'économie. Cela ne se produira pas bientôt, mais en 2024, nous verrons les premiers pas sur ce chemin.