Analyser Les CPU et GPU de plus en plus chauds et gourmands en énergie causaient déjà des maux de tête aux exploitants de datacenters avant que Nvidia ne dévoile ses GPU Blackwell de 1 200 W au GTC la semaine dernière. Au cours de l’année écoulée, les exploitants de datacenters et les fournisseurs de colocation ont accru leur soutien aux déploiements à haute densité grâce à l’utilisation d’échangeurs de chaleur en porte arrière (RDHX) et, dans certains cas, d’une solution de refroidissement liquide directe au processeur (DTC), en prévision de l’augmentation des températures des puces. En examinant la gamme Blackwell de Nvidia, il semble que ces modifications aient été justifiées. À environ 60 kW par rack – 14,3 kW par nœud – un empilement de quatre systèmes DGX B200 dépasse déjà les limites des racks refroidis à l’air standard dans les installations de Digital Realty. Et ce n’est même pas le système le plus puissant de Nvidia. Ses derniers systèmes en rack NVL72 GB200, que nous avons examinés en détail la semaine dernière, sont notés à 120 kW et – sans surprise pour personne – nécessitent absolument un refroidissement liquide. C’est beaucoup de chaleur à dissiper dans un rack mais il y a plus à l’histoire. Penchons-nous sur les gains de puissance et d’efficacité de Blackwell.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)