Cela me semblait comme s'il ait anthropomorphisant ces systèmes artificiels, ce que les scientifiques disent constamment que les laïcs et les journalistes ne font pas. «Les scientifiques se mettent en quatre pour ne pas le faire, car l'anthropomorphing la plupart des choses est idiote», concède Hinton. «Mais ils auront appris ces choses de nous, ils apprendront à se comporter comme nous en linguistiquement. Je pense donc que les anthropomorphisation est parfaitement raisonnable. » Lorsque votre puissant agent d'IA est formé sur la somme totale des connaissances numériques humaines, y compris beaucoup de conversations en ligne – cela pourrait être plus idiot pas s'attendre à ce qu'il agisse humain.

Mais qu'en est-il de l'objection qu'un chatbot ne pourrait jamais vraiment comprendre ce que font les humains, car ces robots linguistiques ne sont que des impulsions sur les puces informatiques sans expérience directe du monde? Tout ce qu'ils font, après tout, est de prédire le mot suivant nécessaire pour éliminer une réponse qui satisfera statistiquement une invite. Hinton souligne que même nous Ne rencontrez pas vraiment le monde directement.

«Certaines personnes pensent, hé, il y a cette barrière ultime, c'est-à-dire que nous avons une expérience subjective et [robots] Ne pas, donc nous comprenons vraiment les choses et ils ne le font pas », explique Hinton. «C'est juste des conneries. Parce que pour prédire le mot suivant, vous devez comprendre quelle était la question. Vous ne pouvez pas prédire le mot suivant sans comprendre, non? Bien sûr, ils sont formés pour prédire le mot suivant, mais à la suite de prédire le mot suivant, ils comprennent le monde, car c'est la seule façon de le faire. »

Donc, ces choses peuvent être… sensibles? Je ne veux pas croire que Hinton va tout Blake Lemoine sur moi. Et il ne l'est pas, je pense. «Permettez-moi de continuer dans ma nouvelle carrière de philosophe», dit Hinton en plaisantant, alors que nous approfondissons les mauvaises herbes. «Laissons de la sensibilité et de la conscience. je Ne percevez pas vraiment le monde directement. Ce que je pense dans le monde n'est pas ce qui est vraiment là. Ce qui se passe, c'est que ça vient à l'esprit, et je vois vraiment ce qu'il y a dans mon esprit directement. C'est ce que pensait Descartes. Et puis il y a la question de savoir comment ce truc dans mon esprit est-il lié au monde réel? Et comment connaître réellement le monde réel? Hinton poursuit en affirmant que comme notre propre expérience est subjective, nous ne pouvons pas exclure que les machines pourraient avoir leurs propres expériences également valables. “Selon ce point de vue, il est tout à fait raisonnable de dire que ces choses peuvent déjà avoir une expérience subjective”, dit-il.

Considérez maintenant les possibilités combinées que les machines peuvent vraiment comprendre le monde, peuvent apprendre la tromperie et d'autres mauvaises habitudes de la part des humains, et que les systèmes d'IA géants peuvent traiter des milliards d'informations supplémentaires que les cerveaux peuvent éventuellement gérer. Peut-être que vous, comme Hinton, avez maintenant une vision plus lourde des futurs résultats de l'IA.

Mais nous ne sommes pas nécessairement dans un voyage inévitable vers une catastrophe. Hinton suggère une approche technologique qui pourrait atténuer un jeu de puissance de l'IA contre les humains: l'informatique analogique, tout comme vous le trouvez en biologie et comme certains ingénieurs pensent que les futurs ordinateurs devraient fonctionner. C'était le dernier projet sur lequel Hinton a travaillé chez Google. «Cela fonctionne pour les gens», dit-il. Adopter une approche analogique de l'IA serait moins dangereux car chaque instance de matériel analogique a des raisons d'unicité et d'hintes. Comme pour nos propres petits esprits humides, les systèmes analogiques ne peuvent pas si facilement fusionner dans une sorte d'intelligence Skynet.