Dans un pittoresque Le bureau de l'ère Regency surplombant la place Russell de Londres, j'ai cofondé une entreprise appelée Deepmind avec deux amis, Demis Hassabis et Shane Legg, à l'été 2010. Notre objectif, qui se sent toujours aussi ambitieux et fou et plein d'espoir qu'à l'époque, était de reproduire la chose même qui nous rend uniques comme une espèce: notre intelligence.

Pour y parvenir, nous aurions besoin de créer un système qui pourrait imiter et finalement surpasser toutes les capacités cognitives humaines, de la vision et de la parole à la planification et à l'imagination, et finalement l'empathie et la créativité. Étant donné qu'un tel système bénéficierait du traitement massivement parallèle des superordinateurs et de l'explosion de vastes nouvelles sources de données à travers le Web ouvert, nous savions que même des progrès modestes vers cet objectif auraient des implications sociétales profondes.

C'était certainement assez éloigné à l'époque.

Mais l'IA est montée sur l'échelle des capacités cognitives depuis des décennies, et il semble maintenant prêt à atteindre les performances au niveau de l'homme dans un très large éventail de tâches au cours des trois prochaines années. C'est une grande affirmation, mais si je suis même proche de droite, les implications sont vraiment profondes.

Des progrès supplémentaires dans un domaine accélèrent les autres dans un processus chaotique et catalysant au-delà du contrôle direct de quiconque. Il était clair que si nous ou d'autres avons réussi à reproduire l'intelligence humaine, ce n'était pas seulement une entreprise rentable comme d'habitude mais un changement sismique pour l'humanité, inaugurant une époque où des opportunités sans précédent seraient égalées de risques sans précédent. Désormais, aux côtés d'une multitude de technologies, notamment la biologie synthétique, la robotique et l'informatique quantique, une vague d'IA à développement rapide et extrêmement capable commence à se casser. Ce qui avait, lorsque nous avons fondé Deepmind, pensé que Quichotic est devenu non seulement plausible mais apparemment inévitable.

En tant que constructeur de ces technologies, je pense qu'ils peuvent offrir une quantité extraordinaire de bien. Mais sans ce que j'appelle le confinement, tous les autres aspects d'une technologie, chaque discussion sur ses lacunes éthiques ou les avantages qu'il pourrait apporter est sans conséquence. Je vois le confinement comme un ensemble imbriqué de mécanismes techniques, sociaux et juridiques contraignant et contrôler la technologie, travaillant à tous les niveaux possibles: un moyen, en théorie, d'éviter le dilemme de la façon dont nous pouvons garder le contrôle des technologies les plus puissantes de l'histoire. Nous avons besoin de toute urgence de réponses étanches sur la façon dont la vague à venir peut être contrôlée et contenue, comment les garanties et les possibilités de l'État-nation démocratique, essentiellement à la gestion de ces technologies et pourtant menacée par eux, peuvent être maintenues. En ce moment, personne n'a un tel plan. Cela indique un avenir qu'aucun de nous ne veut, mais c'est celui que je crains de plus en plus probable.

Face à d'immenses incitations enracinées à faire avancer la technologie, le confinement n'est pas possible, à première vue. Et pourtant pour tous nos sakes, confinement doit être possible.

Il semblerait que la clé du confinement soit une réglementation habile aux niveaux national et supranational, équilibrant la nécessité de progresser aux côtés de contraintes de sécurité judicieuses, couvrant tout, des géants de la technologie et des militaires aux petits groupes de recherche universitaires et startups, liés dans un cadre complet et exécutoire. Nous l'avons déjà fait, Donc, l'argument va; Regardez les voitures, les avions et les médicaments. N'est-ce pas ainsi que nous gérons et contenons la prochaine vague?

Si seulement c'était aussi simple. La réglementation est essentielle. Mais la réglementation à elle seule ne suffit pas. Les gouvernements devraient, à première vue, être mieux préparé pour gérer de nouveaux risques et technologies que jamais. Les budgets nationaux pour de telles choses sont généralement à des niveaux record. La vérité est, cependant, que les menaces nouvelles sont tout simplement exceptionnellement difficiles à naviguer pour tout gouvernement. Ce n'est pas un défaut avec l'idée du gouvernement; Il s'agit d'une évaluation de l'ampleur du défi dont nous sommes saisis. Les gouvernements combattent la dernière guerre, la dernière pandémie, réglementent la dernière vague. Les régulateurs réglementent pour les choses qu'ils peuvent anticiper.