Alors même qu’Eckersley était en train de lancer ces projets influents, il réfléchissait déjà à un domaine technologique totalement différent dans lequel il pensait qu’il pourrait avoir un impact encore plus important à long terme. En 2013, Eckersley discutait avec des informaticiens comme Anders Sandberg, Stuart Russell et Nick Bostrom, qui se concentraient sur le « risque civilisationnel » lié à l’IA, explique Brian Christian, scientifique et auteur des livres axés sur l’IA. L’humain le plus humain et Des algorithmes à respecter

By the time he left the EFF in 2018, Christian says, Eckersley had decided it was time to refocus his efforts on shaping AI’s future. “He saw it has higher stakes, in a way,” says Christian. « Il a fini par conclure que la gravité de l’IA, même dans ses dommages les plus hypothétiques, était si grande qu’elle lui paraissait urgente, que c’était la chose la plus importante pour lui. » Christian says Eckersley was so persuasive about the magnitude of the problem that he transformed Christian’s thinking about AI’s future, too. Il a consacré son livre de 2020 sur le sujet, Le problème de l’alignement“à Pierre, qui m’a convaincu.”

La sœur d’Eckersley, Nicole, qui a prononcé le discours final de la soirée, a déclaré qu’elle avait commencé à entendre parler de son frère au sujet de sa vision pour quelque chose comme AOI en 2020. Et même lorsque sa santé a soudainement décliné à la fin de l’été 2022, l’institut est resté sa priorité. “Même depuis son lit d’hôpital, il chargeait à toute vitesse sur AOI. Toutes ses dernières volontés et instructions concernaient la survie de ce projet incroyablement important”, a-t-elle déclaré. “Nous voulons voir les projets de Peter se concrétiser. Nous voulons rester engagés dans cette incroyable communauté. Nous voulons empêcher les robots de nous manger et de gaspiller de l’argent.”