AMD lance de nouveaux processeurs pour accélérer l’entraînement du AI.

Par Emilia David, reporter qui couvre l’IA. Avant de rejoindre The Verge, elle a couvert l’intersection entre la technologie, les finances et l’économie. AMD veut que les gens se souviennent que Nvidia n’est pas le seul fournisseur de puces d’IA. Il a annoncé la disponibilité de nouveaux accélérateurs et processeurs conçus pour exécuter de grands modèles de langage, ou LLMs. Le fabricant de puces a présenté l’accélérateur Instinct MI300X et l’unité de traitement accéléré Instinct M1300A, qui, selon la société, sert à former et à exécuter des LLMs. La société a déclaré que le MI300X offrait 50 % de mémoire en plus que le modèle M1250X précédent. Les deux nouveaux produits ont une meilleure capacité de mémoire et sont plus économes en énergie que leurs prédécesseurs, a déclaré AMD. «Les LLMs continuent à augmenter en taille et en complexité, nécessitant une quantité massive de mémoire et de calcul», a déclaré Lisa Su, PDG d’AMD. «Et nous savons que la disponibilité de GPU est le facteur le plus important de l’adoption de l’IA.» Su a déclaré lors d’une présentation que le MI300X «est l’accélérateur le plus performant au monde». Elle a affirmé que le MI300X était comparable aux puces H100 de Nvidia lors de l’entraînement de LLMs, mais qu’il se comportait mieux du côté de l’inférence – 1,4 fois mieux que l’H100 lorsqu’il travaillait avec Llama 2 de Meta, un LLM de 70 milliards de paramètres.