Pourquoi Nvidia et AMD s’accusent mutuellement de mauvaises performances en matière d’IA

Toute fois que nous écrivons à propos de bancs de tests fournis par les fournisseurs et de leurs allégations de performances, ils sont accompagnés d’un avertissement disant de les prendre avec des pincettes. C’est parce que les fournisseurs n’ont pas pour habitude de souligner les endroits où leurs puces ou leurs produits sont en dessous de ceux de la concurrence, donc les résultats sont généralement sélectionnés avec soin, réglés et optimisés pour les présenter sous le meilleur jour possible. Ces comparaisons ne suscitent généralement pas de réaction de la part des concurrents des puces d’AMD, mais dans le cas des nouvelles cartes graphiques MI300X, Nvidia a estimé nécessaire de s’exprimer. Dans un article de blog la semaine dernière, le spécialiste des accélérateurs a rejeté l’exactitude et la pertinence des benchmarks d’AMD. Vendredi, AMD a répondu en partageant un nouvel ensemble de chiffres optimisés, affirmant avoir un avantage en termes de performances même lorsque l’on tient compte des bibliothèques logicielles optimisées de Nvidia et de son support pour une précision inférieure. Lors de l’événement de lancement d’AMD plus tôt cette semaine, le fabricant de puces a affirmé que son MI300X – c’est la variante de la puce GPU – était capable d’atteindre 40% de latence en moins que le H100 lors de l’inférence du modèle de 70 milliards de paramètres Llama 2 de Meta.