Art: Julien GOBLED; Getty Images

De retour à la base, je me dirige vers le Robotics Operations Center, où un groupe d'humains supervise les capteurs distribués sur l'eau. Le ROC est une pièce sans fenêtre avec plusieurs rangées de tables et de moniteurs informatiques – sans caractère mais pour les murs, qui sont ornés de citations inspirantes de figures comme Winston Churchill et Steve Jobs. Ici, je rencontre le capitaine Michael Brasseur, le chef de la Force opérationnelle 59, un homme bronzé avec une tête rasée, un sourire prêt et un plis de marin. (Brasseur a depuis pris sa retraite de la Marine.) Il marche entre les tables alors qu'il explique joyeusement comment le ROC fonctionne. “C'est là que toutes les données qui sortent des systèmes sans pilote sont fusionnées, et où nous expliquons l'IA et l'apprentissage automatique pour obtenir des idées vraiment excitantes”, dit Brasseur, se frottant les mains et souriant pendant qu'il parle.

Les moniteurs scintillent avec l'activité. L'IA de la Force professionnelle 59 met en évidence les navires suspects dans la région. Il a déjà signalé un certain nombre de navires aujourd'hui qui ne correspondaient pas à leur signal d'identification, ce qui a incité la flotte à regarder de plus près. Brasseur me montre une nouvelle interface de développement qui permettra à son équipe d'effectuer bon nombre de ces tâches sur un seul écran, de la visualisation de la nourriture d'un navire de drone pour la diriger plus près de l'action.

Brasseur et d'autres à la base soulignent que les systèmes autonomes qu'ils testent sont pour la détection et la détection uniquement, pas pour l'intervention armée. «Le focus actuel de la Force opérationnelle 59 est d'améliorer la visibilité», explique Brasseur. «Tout ce que nous faisons ici soutient les navires de l'équipage.» Mais certains des navires de robot impliqués dans l'exercice illustrent à quel point la distance entre les armes et armées peut être courte – une question d'échange de charges utiles et de logiciels de réglage. Un bateau-vitesse autonome, The Seagull, est conçu pour chasser les mines et les sous-marins en traînant un réseau de sonar dans son sillage. Amir Alon, directeur principal de Elbit Systems, la firme de défense israélienne qui a créé le Seagull, me dit qu'elle peut également être équipée d'une mitrailleuse à distance et des torpilles qui se lancent depuis le pont. «Il peut s'engager de manière autonome, mais nous ne le recommandons pas», dit-il avec un sourire. «Nous ne voulons pas commencer la Seconde Guerre mondiale.»

Non, nous ne le faisons pas. Mais la plaisanterie d'Alon aborde une vérité importante: les systèmes autonomes ayant la capacité de tuer existent déjà dans le monde entier. Dans tout conflit majeur, même bien à court de la Seconde Guerre mondiale, chaque partie sera bientôt confrontée à la tentation non seulement pour armer ces systèmes, mais, dans certaines situations, pour éliminer la surveillance humaine, libérer les machines pour lutter à la vitesse de la machine. Dans cette guerre de l'IA contre l'IA, seuls les humains mourront. Il est donc raisonnable de se demander: comment ces machines et les gens qui les construisent, pensent-ils?

Cet article apparaît dans le numéro de septembre 2023. Abonnez-vous à Wired.Photographie: Sam Cannon

Lueur d'autonomie La technologie existe dans l'armée américaine depuis des décennies, des logiciels de pilote automatique dans les avions et les drones aux pistolets de pont automatisés qui protègent les navires de guerre contre les missiles entrants. Mais ce sont des systèmes limités, conçus pour effectuer des fonctions spécifiées dans des environnements et des situations particuliers. Autonome, peut-être, mais pas intelligent. Ce n'est qu'en 2014 que les top laiton du Pentagone ont commencé à contempler une technologie autonome plus compétente comme la solution à un problème beaucoup plus grand.

Bob Work, secrétaire adjoint à la défense à l'époque, craignait que les rivaux géopolitiques de la nation «approchaient de la parité» de l'armée américaine. Il voulait savoir «retrouver un sur-appui», dit-il – comment s'assurer que même si les États-Unis ne pouvaient pas aligner autant de soldats, d'avions et de navires que, disons, en Chine, il pourrait sortir victorieux de tout conflit potentiel. Le travail a donc demandé à un groupe de scientifiques et de technologues où le ministère de la Défense devrait concentrer ses efforts. “Ils sont revenus et ont dit l'autonomie compatible AI”, se souvient-il. Il a commencé à travailler sur une stratégie de défense nationale qui cultiverait les innovations sortant du secteur de la technologie, y compris les capacités nouvellement émergentes offertes par l'apprentissage automatique.