En 2025, il Il sera courant de parler avec un agent IA personnel qui connaît votre emploi du temps, votre cercle d'amis, les endroits où vous allez. Cela sera vendu comme une commodité équivalente à celle d’avoir un assistant personnel non rémunéré. Ces agents anthropomorphes sont conçus pour nous soutenir et nous charmer afin que nous les intégrions dans chaque partie de notre vie, leur donnant un accès profond à nos pensées et à nos actions. Grâce à l’interaction vocale, cette intimité sera encore plus proche.

Ce sentiment de confort vient de l’illusion que nous nous engageons avec quelque chose de véritablement humain, un agent qui est à nos côtés. Bien sûr, cette apparence cache un système à l’œuvre très différent, au service de priorités industrielles qui ne sont pas toujours en adéquation avec les nôtres. Les nouveaux agents d’IA auront bien plus de pouvoir pour diriger subtilement ce que nous achetons, où nous allons et ce que nous lisons. C'est une quantité de puissance extraordinaire. Les agents IA sont conçus pour nous faire oublier leur véritable allégeance en nous chuchotant sur un ton humain. Il s’agit de moteurs de manipulation, commercialisés comme étant pratiques et transparents.

Les gens sont beaucoup plus susceptibles de donner un accès complet à un agent IA utile qui se sent comme un ami. Cela rend les humains vulnérables à la manipulation par des machines qui s’attaquent à leur besoin de connexion sociale à une époque de solitude et d’isolement chroniques. Chaque écran devient un théâtre algorithmique privé, projetant une réalité conçue pour être au maximum convaincante pour un public unique.

C’est un moment contre lequel les philosophes nous mettent en garde depuis des années. Avant sa mort, le philosophe et neuroscientifique Daniel Dennett a écrit que nous sommes confrontés à un grave péril en raison des systèmes d'IA qui imitent les humains : « Ces personnes contrefaites sont les artefacts les plus dangereux de l'histoire de l'humanité… nous distrayant et nous déroutant et en exploitant nos peurs et nos angoisses les plus irrésistibles, elles nous mèneront à la tentation et, à partir de là, à accepter notre propre asservissement.

L’émergence d’agents personnels d’IA représente une forme de contrôle cognitif qui va au-delà des instruments grossiers de suivi des cookies et de publicité comportementale vers une forme de pouvoir plus subtile : la manipulation de la perspective elle-même. Le pouvoir n’a plus besoin d’exercer son autorité avec une main visible qui contrôle les flux d’informations ; il s’exerce à travers des mécanismes imperceptibles d’assistance algorithmique, modelant la réalité pour l’adapter aux désirs de chaque individu. Il s'agit de façonner les contours de la réalité dans laquelle nous vivons.

Cette influence sur les esprits est une psychopolitique régime: Il dirige les environnements où nos idées naissent, se développent et s'expriment. Sa puissance réside dans son intimité : elle s’infiltre au cœur de notre subjectivité, déformant notre paysage intérieur sans que nous nous en rendions compte, tout en entretenant l’illusion du choix et de la liberté. Après tout, c’est nous qui demandons à l’IA de résumer cet article ou de produire cette image. Nous avons peut-être le pouvoir de l’invite, mais la véritable action réside ailleurs : dans la conception du système lui-même. Et plus le contenu est personnalisé, plus un système peut prédéterminer efficacement les résultats.

Considérez les implications idéologiques de cette psychopolitique. Les formes traditionnelles de contrôle idéologique reposaient sur des mécanismes manifestes : censure, propagande, répression. En revanche, la gouvernance algorithmique actuelle opère sous le radar, infiltrant la psyché. Il s’agit d’un passage de l’imposition externe de l’autorité à l’intériorisation de sa logique. Le champ ouvert d’un écran d’invite est une chambre d’écho pour un seul occupant.

Cela nous amène à l’aspect le plus pervers : les agents IA généreront un sentiment de confort et d’aisance qui rendra absurde toute remise en question. Qui oserait critiquer un système qui offre tout à portée de main, répondant à tous les caprices et à tous les besoins ? Comment s’opposer aux remixes infinis de contenus ? Pourtant, cette soi-disant commodité est le lieu de notre plus profonde aliénation. Les systèmes d’IA peuvent sembler répondre à tous nos désirs, mais les cartes sont empilées : des données utilisées pour entraîner le système, aux décisions sur la manière de le concevoir, en passant par les impératifs commerciaux et publicitaires qui façonnent les résultats. Nous jouerons à un jeu d’imitation qui finira par nous jouer.