« Supermicro insère 18 GPU dans un serveur IA de 3U qui est un peu lent par conception »

Les serveurs optimisés GPU peuvent généralement contenir jusqu’à huit des accélérateurs, mais Supermicro a conçu un boîtier capable d’accueillir 18 d’entre eux à l’intérieur d’un châssis refroidi par air qui n’occupera que 3U d’espace rack. Le bien nommé SYS-322GB-NR dispose de 20 emplacements PCIe, avec l’attente que c’est là que vous connecterez les GPU. Il s’agit d’une disposition inhabituelle de nos jours : la plupart des serveurs d’IA proposent la prise SXM de NVIDIA ou utilisent la spécification du module d’accélération ouvert, car les deux offrent une bande passante inter-puces supérieure à celle du PCIe. Mais ce boîtier n’est pas conçu pour effectuer le travail intensif nécessaire à d’autres serveurs d’IA. Supermicro suggère cette machine pour des tâches telles que l’exécution de travaux de machine learning et d’inférence d’IA en périphérie, dans le cadre de systèmes de production automatisés qui nécessitent le traitement des données provenant d’images de caméra ou de capteurs avec des latences très faibles. Un autre rôle suggéré est l’utilisation de GPU dédiés aux graphiques plutôt qu’à l’IA, et la connexion de jusqu’à 64 moniteurs – un type de chose qui enthousiasme les passionnés de visualisation à l’idée de construire des écrans de 46 080 x 12 960 pixels. À l’arrière du système, il y a de la place pour 18 GPU mono-slot ou dix cartes dual-slot. Du moins, c’est ce que prétend le communiqué de presse – les images marketing semblent indiquer huit cartes dual-slot, même si cela peut être moins une limite physique qu’une question de puissance et de refroidissement. Supermicro ne précise pas quelles cartes il prendra en charge – peut-être parce que nous sommes entre les principales sorties de NVIDIA et AMD – mais fait remarquer que les accélérateurs des deux fournisseurs sont à l’honneur.

Share the Post: