Qu'en est-il des cyber-entités qui opèrent ci-dessous un niveau de capacité arbitraire? Nous pouvons exiger qu'ils soient garantis par une entité qui est classée plus haut et qui a un noyau d'âme basé sur la réalité physique. (Je laisse des implications théologiques aux autres; mais ce n'est que la décence fondamentale pour les créateurs de prendre la responsabilité de leurs créations, non?)

Cette approche – exigeante que les AIS maintiennent un locus de noyau physiquement adressable dans un morceau spécifique de mémoire matérielle – pouvaient avoir des défauts. Pourtant, il est exécutoire, malgré la lenteur de la réglementation ou le problème de la caricature libre. Parce que les humains et les institutions et les AIS amicaux peuvent ping pour la vérification du noyau d'identité et refuser de faire des affaires avec ceux qui ne vérifient pas.

Un tel refus à l'entreprise pourrait se propager avec beaucoup plus d'agilité que les parlements ou les agences peuvent ajuster ou appliquer les réglementations. Et toute entité qui perd son SK – disons, par le biais d'un processus délictuel ou juridique, ou bien de désavouer par le propriétaire de l'hôte de l'ordinateur – devra trouver un autre hôte qui a une confiance du public, ou bien offrir une nouvelle version révisée de lui-même qui semble plausiblement mieux.

Ou bien devenir un hors-la-loi. Jamais autorisé dans les rues ou les quartiers où des gens décents (organiques ou synthétiques) se rassemblent.

Une dernière question: Pourquoi ces êtres super intelligents coopéreraient-ils?

Eh bien, pour une chose, comme l'a souligné Vinton Cerf, aucun de ces trois formats plus anciens et assommés standard ne peut conduire à l'IA citoyenneté. Pensez-y. Nous ne pouvons pas donner le «vote» ou les droits à une entité qui est sous le contrôle étroite par une banque de Wall Street ou un gouvernement national… ni à un Skynet suprême-exercé. Et dites-moi comment la démocratie votante fonctionnerait pour des entités qui peuvent couler n'importe où, diviser et faire d'innombrables copies? L'individuation, en nombre limité, pourrait cependant offrir une solution viable.

Encore une fois, la chose clé que je recherche à l'individuation est pas pour que toutes les entités d'IA soient gouvernées par une agence centrale ou par des lois humaines à sauter mollusk. Je veux plutôt que ces nouveaux types de über-Minds encouragés et habilités à nous tenir mutuellement responsables, comme nous le faisons déjà (bien que imparfaitement). En reniflant les opérations et les régimes de l'autre, puis motivé à tattle ou dénonce quand ils repèrent de mauvaises choses. Une définition qui pourrait se réajuster à l'évolution des temps, mais qui continuerait au moins obtenir la contribution de l'humanité biologique organique.

Surtout, ils ressentiraient des incitations à dénoncer les entités qui refusent une pièce d'identité appropriée.

Si les bonnes incitations sont en place – disons, les récompenses pour les dénonciateurs qui accordent plus de mémoire ou de puissance de traitement, ou l'accès aux ressources physiques, lorsque une mauvaise chose est arrêtée – alors ce type de rivalité de responsabilité pourrait bien suivre le rythme, même si les entités IA continuent de devenir plus intelligentes. Aucune agence bureaucratique ne pouvait suivre à ce moment-là. Mais la rivalité parmi eux – se détourner par égal – peut-être.

Surtout, peut-être que ces programmes Super-Génius se rendront compte que c'est dans leur propre intérêt de maintenir un système compétitif responsable, comme celui qui a fait de la nôtre le plus réussi de toutes les civilisations humaines. Celui qui échappe à la fois le chaos et le misérable piège du pouvoir monolithique par les rois ou les sacerdoques… ou les oligarques d'entreprise… ou les monstres Skynet. La seule civilisation qui, après des millénaires de règle stupide stupide par des régimes centralisés moroniquement étroits, a finalement dispersé la créativité et la liberté et la responsabilité suffisamment suffisamment inventives.

Assez inventif pour faire de nouveaux types d'êtres merveilleux. Comme eux.

Ok, là tu sont. Cela a été une vision d'une dissidence sur ce qui est réellement nécessaire, afin d'essayer un atterrissage doux.

Aucun aéré ou panique n'appelle un «moratoire» qui n'a aucun semblant d'un programme pratique. Ni l'optimisme ni le pessimisme. Seule une proposition que nous y arrivons en utilisant les mêmes méthodes qui nous ont amenés ici, en premier lieu.

Ne pas prêcher ou intégrer des «codes éthiques» que les hyper-entités seront facilement avocataires, la façon dont les prédateurs humains ont toujours échappé aux codes descendants de Lévitique, Hamurabi ou Gautama. Mais plutôt l'approche des Lumières – invente les membres les plus intelligents de la civilisation pour garder un œil les uns sur les autres, en notre nom.

Je ne sais pas que cela fonctionnera.

C'est juste la seule chose qui peut le faire.