Par Emilia David, reporter couvrant l’IA. Avant de rejoindre The Verge, elle a couvert l’intersection entre la technologie, les finances et l’économie. AMD veut que les gens se rappellent que Nvidia n’est pas la seule entreprise à vendre des puces IA. Il a annoncé la disponibilité de nouveaux accélérateurs et processeurs axés sur l’exécution de grands modèles de langage, ou LLMs. Le fabricant de puces a présenté l’accélérateur Instinct MI300X et l’unité de traitement accéléré (APU) Instinct M1300A, qui, selon lui, sert à former et à exécuter des LLMs. La société a déclaré que le MI300X avait une capacité de mémoire 1,5 fois plus élevée que la version M1250X précédente. Les deux nouveaux produits ont une meilleure capacité de mémoire et sont plus économes en énergie que leurs prédécesseurs, a déclaré AMD. «Les LLM continuent d’augmenter en taille et en complexité, nécessitant une capacité de calcul et de mémoire massives», a déclaré Lisa Su, PDG d’AMD. Elle a déclaré lors d’une présentation que le MI300X «est l’accélérateur le plus performant au monde». Elle a affirmé que le MI300X était comparable aux puces H100 de Nvidia en termes de formation de LLM, mais qu’il fonctionnait mieux du côté de l’inférence – 1,4 fois mieux que le H100 lorsqu’il travaillait avec Llama 2 de Meta, un modèle LLM de 70 milliards de paramètres.
Menu
