Un rack. 120 kW de calcul. En examinant de plus près la bête Nvidia DGX GB200 NVL72.

Nvidia a dévoilé son serveur DGX le plus puissant à ce jour le lundi. Le système à l’échelle d’un rack de 120 kW utilise NVLink pour assembler 72 de ses nouveaux accélérateurs Blackwell en un seul gros GPU capable de plus de 1,4 exaFLOPS de performances, du moins en précision FP4. Lors de la GTC cette semaine, nous avons eu l’occasion de jeter un coup d’œil plus attentif sur le système à l’échelle du rack, que Nvidia affirme pouvoir prendre en charge de grosses charges de travail d’entraînement ainsi que des inférences sur des modèles allant jusqu’à 27 billions de paramètres, bien qu’il n’y ait pas encore de modèles aussi grands. Le DGX GB200 NVL72 de Nvidia est un système à l’échelle d’un rack qui utilise NVLink pour interconnecter 72 accélérateurs Blackwell en un seul gros GPU. Surnommé le DGX GB200 NVL72, le système est une évolution des systèmes de racks basés sur le Superchip Grace-Hopper que Nvidia avait présentés en novembre. Cependant, celui-ci est équipé de plus du double de GPU. Alors que le système de rack de 1,36 tonne métrique (3 000 lb) est commercialisé comme un seul gros GPU, il est assemblé à partir de 18 nœuds de calcul de 1U, chacun étant équipé de deux des superchips Grace-Blackwell de 2 700 W de Nvidia (GB200).