UN Le rapport des Nations Unies publié aujourd'hui propose que l'organisme international supervise le premier effort véritablement mondial de surveillance et de gouvernance de l'intelligence artificielle.

Le rapport, produit par le secrétaire général de l'ONU Organe consultatif de haut niveau sur l'IArecommande la création d'un organisme similaire au Groupe d'experts intergouvernemental sur l'évolution du climat pour recueillir des informations à jour sur l'IA et ses risques.

Le rapport appelle à un nouveau dialogue politique sur l'IA afin que les 193 membres de l'ONU puissent discuter des risques et convenir d'actions. Il recommande en outre que l’ONU prenne des mesures pour permettre aux pays les plus pauvres, en particulier ceux du Sud, de bénéficier de l’IA et de contribuer à sa gouvernance. Celles-ci devraient inclure, dit-il, la création d’un fonds pour l’IA pour soutenir les projets dans ces pays, l’établissement de normes en matière d’IA et de systèmes de partage de données, ainsi que la création de ressources telles que des formations pour aider les pays dans la gouvernance de l’IA. Certaines des recommandations du rapport pourraient être facilitées par le Pacte numérique mondialun plan existant visant à réduire les fractures numériques et en matière de données entre les nations. Il suggère enfin de créer un bureau d'IA au sein de l'ONU chargé de coordonner les efforts existants au sein de l'ONU pour atteindre les objectifs du rapport.

« Vous disposez d'une communauté internationale qui reconnaît que l'IA présente à la fois des préjudices, des risques et des opportunités », déclare Alondra Nelsonprofesseur à Institut d'études avancées qui a siégé à l'organe consultatif de l'ONU sur recommandation de la Maison Blanche et du Département d'État.

Les capacités remarquables démontrées par les grands modèles de langage et les chatbots ces dernières années ont fait naître l’espoir d’une révolution dans la productivité économique, mais ont également incité certains experts à avertir que l’IA pourrait se développer trop rapidement et devenir bientôt difficile à contrôler. Peu de temps après l'apparition de ChatGPT, de nombreux scientifiques et entrepreneurs ont signé une lettre appelant à une pause de six mois dans le développement de la technologie afin que les risques puissent être évalués.

Des préoccupations plus immédiates incluent le potentiel de l’IA à automatiser la désinformation, à générer de la vidéo et de l’audio deepfake, à remplacer en masse les travailleurs et à exacerber les préjugés algorithmiques sociétaux à l’échelle industrielle. « Il y a un sentiment d'urgence et les gens estiment que nous devons travailler ensemble », explique Nelson.

Les propositions de l’ONU reflètent le grand intérêt des décideurs politiques du monde entier pour la réglementation de l’IA afin d’atténuer ces risques. Mais cela survient également alors que les grandes puissances – en particulier les États-Unis et la Chine – se bousculent pour prendre la tête d’une technologie qui promet d’énormes avantages économiques, scientifiques et militaires, et que ces nations définissent leur propre vision sur la manière dont elle devrait être utilisée et contrôlé.

En mars, les États-Unis a présenté une résolution à l’ONU appelant les États membres à adopter le développement d’une « IA sûre, sécurisée et digne de confiance ». En juillet, la Chine a introduit une résolution qui lui est propre qui mettait l’accent sur la coopération dans le développement de l’IA et sur la diffusion de la technologie à grande échelle. Tous les États membres de l'ONU ont signé les deux accords.

“L'IA fait partie de la concurrence entre les États-Unis et la Chine, il n'y a donc que peu de choses sur lesquelles ils vont s'entendre”, déclare Josué Meltzerexpert du Brookings Institute, un groupe de réflexion de Washington, DC. Les principales différences, dit-il, incluent les normes et les valeurs qui devraient être incarnées par l’IA et les protections en matière de confidentialité et de données personnelles.