Leah Feiger: Très bien, c'est un bon. Merci, Tori. Will, qu'avez-vous pour nous?

Will Knight: Wow, je ne sais pas si je peux vraiment rivaliser avec RFK, mais en tant que bon agent de la CIA, je vais promouvoir quelque chose dans les coins les plus étranges de l'IA, de l'IA et de la philosophie, je suppose. Il y a donc cette chose appelée Roko's Basilisk. Donc, le basilic est un serpent de créature mythologique que si vous regardiez dans ses yeux, il pourrait vous tuer. Et donc il y a eu cette expérience de pensée que quelqu'un a publiée sur un forum d'IA disant que la superintelligence à l'avenir serait incitée à créer une simulation dans laquelle nous existons peut-être tous à l'intérieur, et il serait incité à torturer quiconque a travaillé contre ou même pensé à L'idée de travailler contre elle a vu le jour. Donc à un moment de l'un de ces…

Leah Feiger: Incroyable.

Will Knight: … Forums, ils ont interdit les discussions sur Roko, cette expérience de pensée, le basilic de Roko. L'idée était que si vous y réfléchissiez même, cela pourrait être dangereux, ce qui est particulièrement des bananes.

Leah Feiger: C'est tellement drôle. Sur quels forums cela prolifère-t-il ou ne proliféra pas?

Will Knight: C'était sur Lesswrong, qui est un forum très célèbre dédié aux risques et à l'alignement de l'IA et …

Leah Feiger: À quelle fréquence pensez-vous personnellement au basilic de Roko?

Will Knight: Eh bien, je ne l'ai découvert que récemment, et j'essaie de ne pas y penser au cas où. C'est comme le pari de Pascal, n'est-ce pas? C'est en quelque sorte en quelque sorte des chances que la superintelligence naîtra, donc vous devez essayer de le faire naître. Ouais, c'est complètement fou.

Leah Feiger: Oh, c'est un très bon. D'ACCORD. Oh, en fait, c'est un peu dur cette semaine, mais je dois aller avec Tori. Assets de la CIA, c'est parti.

Vittoria Elliott: Enfin. Les Ravens m'ont-ils mis au-dessus du bord? Je dois savoir.

Leah Feiger: Les Ravens vous ont mis sur le bord. Je l'ai aimé, et cela faisait partie de, je viens de voir à quel point vous travailliez pour cela, et oui, c'était un A pour l'effort et un A pour l'exécution. Bonnes choses.

Vittoria Elliott: Merci.

Leah Feiger: Et en partie, je ne peux pas donner la victoire à quelque chose auquel je ne suis pas autorisé à penser à nouveau. Tori et Will, merci beaucoup de nous avoir rejoints. Vous étiez d'excellents invités.

Vittoria Elliott: Merci, Leah.

Will Knight: Merci de m'avoir fait.

Leah Feiger: Merci d'avoir écouté Wired Laboratoire de politique. Si vous aimez ce que vous avez entendu aujourd'hui, assurez-vous de suivre l'émission et de le noter sur votre application de podcast de choix. Nous avons également une newsletter, que Makena Kelly écrit chaque semaine. Le lien vers la newsletter et le rapport filaire que nous avons mentionné aujourd'hui figurent dans les notes de spectacle. Si vous souhaitez nous contacter avec des questions, des commentaires ou des suggestions, veuillez écrire à [email protected]. C'est [email protected]. Nous sommes ravis de vous entendre. Câblé Laboratoire de politique est produit par Jake Harper. Pran Bandi est notre ingénieur en studio. Amar Lal a mélangé cet épisode. Stephanie Kariuki est notre productrice exécutive. Chris Bannon est le chef de son mondial de Condé Nast, et je suis votre hôte, Leah Feiger. Nous serons de retour dans vos flux avec un nouvel épisode la semaine prochaine.