Entretien Il n’est pas un secret que les GPU utilisés pour former et exécuter des modèles d’IA générative sont de petits monstres très énergivores. Tellement affamés que, selon certaines estimations, les datacenters aux États-Unis pourraient consommer jusqu’à neuf pour cent de la production d’électricité nationale d’ici la fin de la décennie. Face à cette croissance explosive, certains ont averti que l’infrastructure d’IA pourrait épuiser le réseau électrique. Chris Sharp, CTO chez Digital Realty, un fournisseur de colocation, est bien conscient des défis liés à l’accommodation de ces charges de travail. Comparé aux serveurs qui exécutent des charges de travail traditionnelles, telles que les machines virtuelles, les conteneurs, le stockage et les bases de données, l’IA accélérée par matériel est une bête différente. Aujourd’hui, une seule armoire de serveurs GPU peut facilement consommer 40 kW ou plus. Les systèmes de nouvelle génération à l’échelle du rack de Nvidia et d’autres nécessiteront au moins 100 kW. Selon Sharp, adapter ces systèmes exigeants à grande échelle n’est pas facile et nécessite une approche différente de la gestion de l’alimentation et du refroidissement des datacenters, que vous pouvez découvrir davantage dans cet entretien avec The Register ci-dessous.
« La Croisade acharnée d’un couple pour arrêter un tueur génétique »
En y repensant, cela aurait pu être un indice. Mais au début de l’année 2010, lorsque Kamni Vallabh a commencé
