Par Emilia David, reporter qui couvre l’IA. Avant de rejoindre The Verge, elle couvrait l’intersection entre la technologie, les finances et l’économie. AMD veut que les gens se rappellent que Nvidia n’est pas le seul vendeur de puces d’IA. Il a annoncé la disponibilité de nouveaux accélérateurs et processeurs destinés à l’exécution de grands modèles de langage, ou LLMs. Le fabricant de puces a présenté l’accélérateur Instinct MI300X et l’unité de traitement accéléré Instinct M1300A, que la société a déclaré être destinée à l’entraînement et à l’exécution de LLMs. La société a déclaré que le MI300X avait une capacité de mémoire 1,5 fois supérieure à celle du M1250X précédent. Les deux nouveaux produits ont une meilleure capacité de mémoire et sont plus économes en énergie que leurs prédécesseurs, a déclaré AMD. «Les LLMs continuent à augmenter en taille et en complexité, nécessitant une masse de mémoire et de calculs massifs», a déclaré le PDG d’AMD, Lisa Su. «Et nous savons que la disponibilité de GPU est le seul facteur le plus important de l’adoption de l’IA.» Su a déclaré lors d’une présentation que le MI300X «est le plus performant des accélérateurs au monde». Elle a affirmé que le MI300X était comparable aux puces H100 de Nvidia pour l’entraînement de LLMs, mais qu’il se comportait mieux du côté de l’inférence – 1,4 fois mieux que l’H100 lorsqu’il travaillait avec Llama 2 de Meta, un LLM de 70 milliards de paramètres.
Menu
