Don’t Ask Dumb Robots If AI Will Destroy Humanity
Photographie: Will Knight
Hanson et moi avons parlé de l'idée d'ajouter une réelle intelligence à ces machines évocatrices. Ben Goertzelun chercheur bien connu d'IA et PDG de Singularitynetmène un effort pour appliquer les progrès de l'apprentissage automatique aux logiciels des robots de Hanson qui leur permettent de répondre à la parole humaine.
L'IA derrière Sophia peut parfois fournir des réponses passables, mais la technologie n'est pas aussi avancée qu'un système comme GPT-4, qui alimente la version la plus avancée de Chatgpt et coûte plus de 100 millions de dollars à créer. Et bien sûr, même Chatgpt et d'autres programmes d'IA de pointe ne peuvent pas répondre sensiblement à des questions sur l'avenir de l'IA. Il est peut-être préférable de les considérer comme des imitons bien informés et doués qui, bien que capables d'un raisonnement étonnamment sophistiqué, sont profondément imparfaits et n'ont qu'une «connaissance» limitée du monde.
Les «interviews» trompeuses de Sophia et la société à Genève sont un rappel de la façon dont l'anthropomorphing des systèmes d'IA peut nous égarer. L'histoire de l'IA est jonchée d'exemples d'humains surextrapolants à partir de nouvelles avancées dans le domaine.
En 1958, à l'aube de l'intelligence artificielle, Le New York Times a écrit sur l'un des premiers systèmes d'apprentissage automatique, un réseau neuronal artificiel brut développé pour la marine américaine par Frank Rosenblattun psychologue Cornell. “La Marine a révélé aujourd'hui l'embryon d'un ordinateur électronique qui s'attend à pouvoir marcher, parler, voir, écrire, se reproduire et être conscient de son existence”, le Fois Signalé – une déclaration audacieuse sur un circuit capable d'apprendre à repérer les modèles en 400 pixels.
Si vous regardez en arrière la couverture du jeu d'échecs d'IBM Bleu profondChampion de Deepmind GO GO Player Alphagoet de nombreux sauts de la dernière décennie dans l'apprentissage en profondeur – qui sont directement issus de la machine de Rosenblatt – vous en verrez beaucoup: les gens prenant chaque avance comme s'il s'agissait d'un signe d'une intelligence plus profonde et plus humaine.
Cela ne veut pas dire que ces projets – ou même la création de Sophia – n'étaient pas des exploits remarquables, ou ne sont pas potentiellement vers des machines plus intelligentes. Mais être clair sur les capacités des systèmes d'IA est important lorsqu'il s'agit de mesurer les progrès de cette technologie puissante. Pour donner un sens aux avancées de l'IA, le moins que nous puissions faire est d'arrêter de poser des marions animatroniques.