Comme la loi de Moore a ralenti considérablement, les puces, en particulier celles utilisées dans l’IA et les ordinateurs de hautes performances (HPC), ont considérablement augmenté en puissance. En 2023, nous avons vu l’arrivée des accélérateurs dans la gamme des kilowatts avec l’arrivée des superpuces GH200 de Nvidia. Nous savions depuis un moment que ces puces seraient puissantes – Nvidia tease la CPU-GPU depuis plus de deux ans. Ce que nous ne savions pas, c’est comment les OEM et les constructeurs de systèmes réagiraient face à une telle densité de puissance. La plupart des systèmes seraient-ils refroidis par liquide? Ou la plupart d’entre eux resteraient-ils refroidis par air? Combien d’entre eux essaieraient-ils de fourrer dans une seule boîte, et combien grande serait la boîte? Maintenant que les premiers systèmes basés sur le GH200 commencent à être mis sur le marché, il est devenu évident que le facteur de forme est beaucoup plus dicté par la densité de puissance que par toute autre chose. Cela se résume essentiellement à la surface disponible pour dissiper la chaleur. Si vous fouillez les systèmes disponibles aujourd’hui chez Supermicro, Gigabyte, QCT, Pegatron, HPE et d’autres, vous remarquerez rapidement une tendance. Jusqu’à environ 500 W par unité de rack (RU) – 1 kW dans le cas de la MGX ARS-111GL-NHR de Supermicro -, ces systèmes sont largement refroidis par air. Bien que chaud, il s’agit d’une charge thermique gérable, représentant environ 21-24 kW par rack. C’est bien dans les capacités d’alimentation et de gestion thermique des datacenters modernes, en particulier ceux qui font appel à des échangeurs thermiques arrière. Cependant, cela change lorsque les constructeurs de systèmes commencent à empiler plus d’un kilowatt d’accélérateurs dans chaque châssis. À ce stade, la plupart des systèmes OEM que nous avons examinés ont basculé vers un refroidissement par liquide direct. Par exemple, le H263-V11 de Gigabyte offre jusqu’à quatre noeuds GH200 dans un seul châssis 2U.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)