Lorsque Google PDG Sundar Pichai a envoyé un e-mail à ses travailleurs les priorités de l'entreprise pour 2024 ce mois-ci, le développement de l'IA responsable était en tête de liste. Certains employés se demandent maintenant si Google peut être à la hauteur de cet objectif. La petite équipe qui a été son principale chien de garde interne d'éthique de l'IA a perdu son leader et est restructurée, selon quatre personnes familières avec les changements. Un porte-parole de Google a déclaré que ses travaux se poursuivront sous une forme plus forte à l'avenir, mais ont refusé de fournir des détails.

L'équipe responsable de l'innovation de Google, connue sous le nom de résine, était située à l'intérieur du bureau de la conformité et de l'intégrité, dans la division des affaires mondiales de l'entreprise. Il a examiné les projets internes de compatibilité avec les principes d'IA de Google qui définissent les règles de développement et d'utilisation de la technologie, un rôle crucial alors que la société se précipite dans une IA générative. La résine a effectué plus de 500 avis l'année dernière, notamment pour le chatbot Bard, selon un rapport annuel Sur les principes de l'IA, le travail Google a publié ce mois-ci.

Le rôle de Resin a semblé incertain depuis que son chef et fondateur Jen Gennai, directeur de l'innovation responsable, a soudainement quitté ce rôle ce mois-ci, disent que les sources, qui ont parlé sous condition d'anonymat pour discuter des changements de personnel. Le profil LinkedIn de Gennai la répertorie en tant que conseillère d'éthique et de conformité de l'IA chez Google depuis ce mois-ci, qui, selon les sources, suggère qu'elle partira bientôt en fonction de la façon dont les départs passés de l'entreprise ont joué.

Google a divisé l'équipe de Gennai d'environ 30 personnes en deux, selon les sources. Le porte-parole de l'entreprise, Brian Gabriel, a déclaré que 10% des membres du personnel de résine resteront en place tandis que 90% de l'équipe a été transférée à la confiance et à la sécurité, qui combat la maltraitance des services Google et réside également dans la division des affaires mondiales. Personne ne semble avoir été licencié, selon des sources. La justification des changements et la façon dont les responsabilités seront rompues n'ont pas pu être apprises. Certaines sources disent qu'on n'a pas été expliqué comment les avis sur les principes de l'IA seront gérés à l'avenir.

Gabriel a refusé de dire comment le travail de la résine en revue des projets d'IA sera géré à l'avenir, mais décrit le remaniement comme un signal de l'engagement de Google envers le développement responsable de l'IA. Cette décision «a« amené cette équipe d'IA particulière particulière au centre de nos efforts de confiance et de sécurité bien établis, qui sont cuits dans nos examens et plans de produits », dit-il. «Cela nous aidera à renforcer et à évoluer nos travaux d'innovation responsables dans toute l'entreprise.»

Vous avez un pourboire?

Google est connu pour remanier fréquemment ses rangs, mais la résine n'avait été largement pas touchée depuis la fondation du groupe. Bien que d'autres équipes et des centaines de personnes supplémentaires travaillent sur la surveillance de l'IA chez Google, la résine était la plus importante, avec une remise couvrant tous les services de base de Google.

En plus du départ de son leader, Gennai, Resin a également vu l'un de ses membres les plus influents, Sara Tangdall, spécialiste de l'éthique des principes de l'IA, Leave ce mois-ci. Elle est désormais responsable des produits de l'IA chez Salesforce, selon son profil LinkedIn. Tangdall a refusé de commenter et Gennai n'a pas répondu aux appels de commentaires.

Soulèvement de l'IA

Google a créé son équipe d'innovation responsable en 2018 peu de temps après que les experts de l'IA et d'autres membres de l'entreprise se sont publié publiquement pour protester contre un contrat du Pentagone appelé Project Maven qui a utilisé des algorithmes Google pour analyser l'imagerie de surveillance des drones. La résine est devenue le fonctionnaire de base d'un ensemble de principes d'IA introduits après les manifestations, qui disent que Google utilisera l'IA au profit des gens, et jamais pour les armes ou saper les droits de l'homme. Gennai a aidé à faire en sorte que les principes.

Des équipes de sur Google pourraient soumettre des projets pour examen de la résine, qui ont fourni des commentaires et parfois bloqués comme une violation des principes de l'IA. Le groupe a arrêté la libération de Générateurs d'images AI et algorithmes de synthèse vocale Cela pourrait être utilisé pour créer DeepFakes.

La recherche de conseils sur les principes de l'IA n'est pas obligatoire pour la plupart des équipes, contrairement aux avis sur les risques de confidentialité, que chaque projet doit subir. Mais Gennai a déclaré que les premiers examens des systèmes d'IA sont payants en empêchant des violations éthiques coûteuses. «S'il est mis en œuvre correctement, l'IA responsable rend les produits meilleurs en découvrant et en travaillant pour réduire le préjudice que les biais injustes peuvent causer, l'amélioration de la transparence et l'augmentation de la sécurité», ” Elle a dit lors d'une conférence Google en 2022.