Pourquoi Nvidia et AMD s’accusent mutuellement de leurs performances en IA

Toute fois que nous écrivons au sujet des comparaisons fournies par les fournisseurs et les allégations de performances, elles sont accompagnées d’un avertissement pour les prendre avec des pincettes. Cela est dû au fait que les fournisseurs ne sont pas dans l’habitude de mettre en évidence les endroits où leurs puces ou leurs produits sont en dessous de la concurrence, de sorte que les résultats sont généralement sélectionnés, ajustés et optimisés pour être présentés sous leur meilleur jour possible. Ces comparaisons ne suscitent généralement pas de réaction de la part des concurrents des puces, mais dans le cas des nouvelles cartes graphiques MI300X d’AMD, Nvidia a jugé nécessaire de s’exprimer. Dans un article de blog la semaine dernière, le spécialiste des accelerateurs a rejeté l’exactitude et la pertinence des comparaisons d’AMD. Vendredi, AMD a répondu en partageant un nouvel ensemble de chiffres optimisés, affirmant un avantage en termes de performance, même lorsque l’on tient compte des bibliothèques logicielles optimisées et du support de précision inférieure de Nvidia. Au cours de l’événement de lancement d’AMD plus tôt cette semaine, le fabricant de puces a affirmé que sa carte graphique MI300X – c’est la variante de la puce – était capable d’atteindre 40% de latence en inférence par rapport à la H100 lors du modèle Llama 2 70 milliards de paramètres de Meta.