US National Security Experts Warn AI Giants Aren’t Doing Enough to Protect Their Secrets
Google, dans les commentaires publics À la NTIA avant son rapport, il a déclaré qu'il s'attend à ce que «des tentatives accrues de perturber, de dégrader, de tromper et de voler». Mais il a ajouté que ses secrets sont gardés par une «organisation de sécurité, de sécurité et de fiabilité composée d'ingénieurs et de chercheurs ayant une expertise de classe mondiale» et qu'il travaillait sur «un cadre» qui impliquerait un comité d'experts pour aider à gouverner l'accès à modèles et leurs poids.
Comme Google, Openai a dit dans les commentaires Pour la NTIA, il y avait un besoin de modèles ouverts et fermés, selon les circonstances. Openai, qui développe des modèles tels que GPT-4 et les services et applications qui s'appuient sur eux, comme Chatgpt, la semaine dernière a formé son propre comité de sécurité sur son conseil d'administration et cette semaine publié Détails sur son blog sur la sécurité de la technologie qu'il utilise pour former des modèles. Le billet de blog a exprimé l'espoir que la transparence inspirerait d'autres laboratoires à adopter des mesures de protection. Il n'a pas précisé à qui les secrets devaient protéger.
S'exprimant aux côtés de Rice à Stanford, le PDG de Rand, Jason Matheny, a fait écho à ses préoccupations concernant les lacunes de sécurité. En utilisant des contrôles d'exportation pour limiter l'accès de la Chine à de puissantes puces informatiques, les États-Unis ont entravé la capacité des développeurs chinois à développer leurs propres modèles, a déclaré Matheny. Il a affirmé que cela avait augmenté leur besoin de voler carrément les logiciels de l'IA.
Selon l'estimation de Matheny, dépenser quelques millions de dollars pour une cyberattaque qui vole les poids des modèles d'IA, qui pourraient coûter à une entreprise américaine des centaines de millions de dollars à créer, en vaut la peine pour la Chine. “C'est vraiment difficile, et c'est vraiment important, et nous n'investissons pas suffisamment à l'échelle nationale pour bien faire les choses”, a déclaré Matheny.
L'ambassade de la Chine à Washington, DC, n'a pas immédiatement répondu à la demande de commentaires de Wired sur les accusations de vol, mais dans le passé a décrit des affirmations comme des frottis sans fondement des responsables occidentaux.
Google a dit qu'il avait renversé les forces de l'ordre l'incident Cela est devenu le cas américain alléguant le vol de secrets de puces d'IA pour la Chine. Bien que la société ait décrit le maintien de garanties strictes pour empêcher le vol de ses données propriétaires, les documents judiciaires montrent qu'il a pris beaucoup de temps pour que Google attrape l'accusé, Linwei Ding, un ressortissant chinois qui a plaidé non coupable aux accusations fédérales.
L'ingénieur, qui passe également par Leon, a été embauché en 2019 pour travailler sur des logiciels pour les centres de données de supercalcul de Google, selon les procureurs. Plus d'un an à partir de 2022, il a copié plus de 500 fichiers avec des informations confidentielles sur son compte Google personnel. Le régime a fonctionné en partie, selon les documents judiciaires, par les informations de collaboration des employés dans l'application Notes d'Apple sur son ordinateur portable d'entreprise, la conversion des fichiers en PDF et les télécharger ailleurs, tout en échappant à la technologie de Google destinée à attraper ce type d'exfiltration.
Tout en étant engagé dans le vol présumé, les États-Unis affirment que l'employé était en contact avec le PDG d'une startup en IA en Chine et avait déménagé pour démarrer sa propre entreprise d'IA chinoise. S'il est reconnu coupable, il risque jusqu'à 10 ans de prison.