Nvidia’s $3,000 ‘Personal AI Supercomputer’ Will Let You Ditch the Data Center

Nvidia vend déjà des cargaisons de puces informatiques à toutes les grandes entreprises qui construisent des modèles exclusifs d’intelligence artificielle. Mais maintenant, à un moment où l’intérêt du public pour l’Open Source et l’IA à faire soi-même monte en flèche, la société a annoncé qu’elle commencerait également à proposer un « superordinateur personnel d’IA » plus tard cette année, à partir de 3 000 $, que chacun pourra utiliser dans son cadre personnel. propre maison ou bureau.

Le nouvel ordinateur de bureau de Nvidia, baptisé Digits, sera mis en vente en mai et a à peu près la taille d'un petit livre. Il contient une « superpuce » Nvidia appelée GB10 Grace Blackwell, optimisée pour accélérer les calculs nécessaires à l'entraînement et à l'exécution de modèles d'IA, et est équipé de 128 Go de mémoire unifiée et jusqu'à 4 téraoctets de stockage NVMe pour gérer des programmes d'IA particulièrement volumineux.

Jensen Huang, fondateur et PDG de Nvidia, a annoncé le nouveau système, ainsi que plusieurs autres offres d'IA, lors d'un discours prononcé aujourd'hui au CES, une conférence annuelle pour l'industrie informatique organisée à Las Vegas. (Vous pouvez consulter toutes les annonces les plus importantes sur le blog en direct de WIRED CES.)

“Placer un superordinateur d'IA sur le bureau de chaque scientifique des données, chercheur en IA et étudiant leur permet de s'engager et de façonner l'ère de l'IA”, a déclaré Huang dans un communiqué publié avant son discours.

Nvidia affirme que la machine Digits, qui signifie « système de formation à l'intelligence GPU à apprentissage profond », sera capable d'exécuter un seul grand modèle de langage avec jusqu'à 200 milliards de paramètres, une mesure approximative de la complexité et de la taille d'un modèle. Pour ce faire aujourd'hui, vous devrez louer de l'espace auprès d'un fournisseur de cloud comme AWS ou Microsoft, ou créer un système personnalisé avec une poignée de puces conçues pour exécuter l'IA. Si deux machines Digits sont connectées à l'aide d'une liaison d'interconnexion haut débit propriétaire, Nvidia affirme qu'elles seront en mesure d'exécuter la version la plus performante disponible du modèle open source Llama de Meta, qui comporte 405 milliards de paramètres.

Les chiffres permettront aux amateurs et aux chercheurs d'expérimenter plus facilement des modèles proches des capacités de base du GPT-4 d'OpenAI ou du Gemini de Google dans leurs bureaux ou sous-sols. Mais les meilleures versions de ces modèles propriétaires, hébergées dans des centres de données géants appartenant à Microsoft et Google, sont probablement plus grandes et plus puissantes que tout ce que Digits pourrait gérer.

Nvidia a été l’un des plus grands bénéficiaires du boom de l’IA. Le cours de ses actions a grimpé en flèche au cours des dernières années alors que les entreprises technologiques réclamaient à grands cris d’acheter de grandes quantités de puces matérielles avancées qu’elles produisent, un ingrédient crucial pour développer une IA de pointe. L’entreprise s’est révélée capable de créer du matériel et des logiciels optimisés pour l’IA, et sa feuille de route de produits est devenue un signal important sur la direction que devrait prendre l’industrie.

Lors de sa sortie, Digits sera le matériel informatique grand public le plus puissant proposé par Nvidia. Il vend déjà une gamme de chipsets pour le développement de l'IA, connue sous le nom de Jetson, qui commencent à environ 250 dollars. Ceux-ci peuvent exécuter des modèles d’IA plus petits et être utilisés comme un mini-ordinateur de bureau ou installés sur un robot pour tester différents programmes d’IA.