Alors que de plus en plus d'entreprises augmentent le développement de systèmes d'intelligence artificielle, elles se tournent de plus en plus vers les puces de l'unité de traitement graphique (GPU) pour la puissance de calcul dont elles ont besoin pour exécuter de grands modèles de langage (LLM) et de croquer rapidement les données à grande échelle. Entre le traitement des jeux vidéo et l'IA, la demande de GPU n'a jamais été plus élevée et les fabricants de puces se précipitent pour renforcer l'offre. Dans de nouvelles résultats publiés aujourd'hui, les chercheurs sont Mettre en évidence une vulnérabilité dans plusieurs marques et modèles de GPU traditionnels– y compris les puces Apple, Qualcomm et AMD – qui pourraient permettre à un attaquant de voler de grandes quantités de données dans la mémoire d'un GPU.

L'industrie du silicium a passé des années à affiner la sécurité des unités de traitement centrales ou des processeurs, de sorte qu'ils ne divulguent pas de données en mémoire même lorsqu'ils sont construits pour optimiser pour la vitesse. Cependant, depuis que les GPU ont été conçus pour une puissance de traitement graphique brute, ils n'ont pas été architeclés au même degré avec la confidentialité des données qu'une priorité. À mesure que l'IA générative et d'autres applications d'apprentissage automatique élargissent les utilisations de ces puces, des chercheurs de l'entreprise de sécurité basée à New York Trace de bits Dites que les vulnérabilités dans les GPU sont une préoccupation de plus en plus urgente.

«Il y a une préoccupation de sécurité plus large sur le fait que ces GPU ne soient pas aussi sûrs qu'ils devraient l'être et divulguent une quantité importante de données», a déclaré à Wireds Wired Heidy Khlaaf, directeur de l'ingénierie des bits pour l'IA et l'assurance d'apprentissage automatique. «Nous regardons de 5 mégaoctets à 180 mégaoctets. Dans le monde du processeur, même un peu c'est trop à révéler. »

Pour exploiter la vulnérabilité, que les chercheurs appellent De restesles attaquants devraient déjà avoir établi une certaine quantité d'accès au système d'exploitation sur l'appareil d'une cible. Les ordinateurs et les serveurs modernes sont spécifiquement conçus pour silo des données afin que plusieurs utilisateurs puissent partager les mêmes ressources de traitement sans pouvoir accéder aux données des autres. Mais une attaque des restes décompose ces murs. L'exploitation de la vulnérabilité permettrait à un pirate d'exfiltration de données auxquelles il ne devrait pas être en mesure d'accéder à partir de la mémoire locale des GPU vulnérables, exposant toutes les données qui se trouvent pour la prise, qui pourrait inclure des requêtes et des réponses générées par les LLM ainsi que les poids à l'origine de la réponse.

Dans leur preuve de conceptcomme on le voit dans le GIF ci-dessous, les chercheurs démontrent une attaque où une cible – a chassé la gauche – asque l'open source llm llama.cpp pour fournir des détails sur le magazine Wired. En quelques secondes, le dispositif de l'attaquant – a été mis à droite – colle la majorité de la réponse fournie par le LLM en effectuant une attaque de restes sur la mémoire de GPU vulnérable. Le programme d'attaque créé par les chercheurs utilise moins de 10 lignes de code.

L'été dernier, les chercheurs ont testé 11 puces de sept fabricants de GPU et plusieurs cadres de programmation correspondants. Ils ont trouvé la vulnérabilité des présolaires dans les GPU d'Apple, AMD et Qualcomm, et ont lancé une divulgation coordonnée de grande envergure de la vulnérabilité en septembre en collaboration avec le Centre de coordination américaine et le groupe Khronos, un corps de normes axé sur les graphiques 3D, l'apprentissage automatique et la réalité virtuelle et augmentée.

Les chercheurs n'ont pas trouvé de preuve que NVIDIA, Intel ou ARM GPU contiennent la vulnérabilité des restes, mais Apple, Qualcomm et AMD ont tous confirmé à câblé qu'ils sont touchés. Cela signifie que des puces bien connues comme l'AMD Radeon RX 7900 XT et les appareils comme l'iPhone 12 Pro et M2 MacBook Air d'Apple sont vulnérables. Les chercheurs n'ont pas trouvé le défaut des GPU d'imagination qu'ils ont testés, mais d'autres peuvent être vulnérables.

Un porte-parole d'Apple a reconnu les restes de restes et a noté que la société a expédié des correctifs avec ses derniers processeurs M3 et A17, qu'il a dévoilés à la fin de 2023. Le 10 janvier, la piste des chercheurs de bits a retesté la vulnérabilité sur un certain nombre d'appareils Apple. Ils ont constaté que M2 MacBook Air d'Apple était toujours vulnérable, mais l'iPad Air 3rd Generation A12 semblait avoir été corrigé.