The US Has Failed to Pass AI Regulation. New York City Is Stepping Up
Comme les États-Unis Le gouvernement fédéral a du mal à réglementer de manière significative l'IA – ou même à fonctionner – la ville de York entre dans l'écart de gouvernance.
La ville a introduit un AI Action Plan Cette semaine, le maire Eric Adams appelle une première du genre dans le pays. L'ensemble d'environ 40 initiatives politiques est conçu pour protéger les résidents contre les préjudices comme les biais ou la discrimination de l'IA. Il comprend le développement de normes pour l'IA achetées par les agences municipales et de nouveaux mécanismes pour évaluer le risque d'IA utilisé par les services de la ville.
La réglementation de l'IA de New York pourrait bientôt se développer encore. Jennifer Guérrez, membre du conseil municipal, présidente du comité technologique de l'organisme, a présenté aujourd'hui une législation qui créerait un bureau d'intégrité des données algorithmiques pour superviser l'IA à New York.
S'il est établi, le bureau fournirait aux citoyens un endroit pour prendre des plaintes concernant les systèmes de prise de décision automatisés utilisés par les agences publiques, fonctionnant comme un médiateur pour les algorithmes dans les cinq arrondissements. Il évaluerait également les systèmes d'IA avant le déploiement par la ville pour les biais et la discrimination.
Plusieurs sénateurs américains ont suggéré de créer une nouvelle agence fédérale pour réglementer l'IA plus tôt cette année, mais Guérrez dit qu'elle a appris que cela ne sert à rien d'attendre à Washington, DC. «Nous avons une responsabilité unique car beaucoup d'innovation vit ici», dit-elle. «Il est vraiment important pour nous de prendre les devants.»
Gutiérrez soutient une exigence de test pour les algorithmes utilisés par le gouvernement de la ville parce que l'IA commence à être largement utilisée, dit-elle. Les services de la ville sont intéressés à utiliser des logiciels d'IA pour les tâches administratives comme évaluer le risque qu'un enfant sera victime d'abus ou de taux d'apprentissage des étudiants. Elle se méfie également de la tendresse du maire Eric Adams pour la technologie comme les chiens robotiques et l'IA pour Faire des robocalles dans les langues, il ne parle pas. New York City a une réputation de terrain de test pour la technologie de surveillance, d'une récente augmentation de l'utilisation des drones à l'utilisation discutable de la reconnaissance faciale logement et les stades, et par la police.
New York était en avance sur le gouvernement fédéral sur la réglementation de l'IA avant même cette semaine. Une ville groupe de travail a été formé en 2018 pour évaluer son utilisation de la technologie. Une loi qui exige que les algorithmes d'embauche utilisés par les entreprises soient vérifiés pour les biais en vigueur plus tôt cette année. Mais certaines protections ont été recouvertes. En janvier 2022, Adams annulé un décret exécutif signé par son prédécesseurBill de Blasio, qui a créé un responsable de la gestion des algorithmes et des politiques pour travailler avec les agences municipales sur le déploiement de l'IA de manière équitable. Un rapport publié par l'officier en 2020 a déclaré que les agences municipales utilisaient 16 types d'algorithmes qui avaient un impact potentiellement substantiel sur les droits des personnes, mais n'ont pas étudié tous les modèles d'IA utilisés par le service de police de New York.
Gutiérrez dit qu'elle n'a toujours pas une compréhension globale des algorithmes utilisés par les agences de la ville. Un Audit publié en février Par le contrôleur de l'État de New York, a constaté que la ville a une approche ad hoc et incomplète de la gouvernance de l'IA. Il a averti que cela signifie que la ville ne peut pas «s'assurer que l'utilisation de l'IA par la ville est transparente, exacte et impartiale et évite les impacts disparates».