La GTC Nvidia a révélé son serveur DGX le plus puissant à ce jour lundi. Le système à l’échelle du rack de 120 kW utilise NVLink pour assembler 72 de ses nouveaux accélérateurs Blackwell en une seule grande unité de traitement graphique capable de plus de 1,4 exaFLOPS de performance, du moins en précision FP4. Cette semaine à la GTC, nous avons eu l’occasion d’examiner de plus près le système à l’échelle du rack, que Nvidia affirme pouvoir prendre en charge de gros volumes de travail d’entraînement ainsi que des inférences sur des modèles allant jusqu’à 27 billions de paramètres, bien qu’il n’y ait pas encore de modèles de cette ampleur. Le DGX GB200 NVL72 de Nvidia est un système à l’échelle du rack qui utilise NVLink pour mélanger 72 accélérateurs Blackwell en une seule grande unité de traitement graphique. Surnommé le DGX GB200 NVL72, le système est une évolution des systèmes à base de superpuce Grace-Hopper que Nvidia avait présentés en novembre. Cependant, celui-ci est équipé de plus du double de GPU. Alors que le système de rack de 1,36 tonne métrique (3 000 lb) est commercialisé comme un seul grand GPU, il est assemblé à partir de 18 nœuds de calcul de 1U, chacun étant équipé de deux superpuces Grace-Blackwell de 2 700 W de Nvidia (GB200).
Menu
