Bing Chat a si faim de GPUs que Microsoft va en louer auprès d’Oracle.

La demande en services d’IA de Microsoft est apparemment si forte – ou les ressources de Redmond si limitées – que le géant du logiciel prévoit de transférer certains des modèles d’apprentissage automatique utilisés par Bing Search vers le supercluster de processeurs graphiques d’Oracle dans le cadre d’un accord multi-annuel annoncé mardi. «Notre collaboration avec Oracle et l’utilisation de l’infrastructure Oracle Cloud, ainsi que de notre infrastructure Azure AI de Microsoft, permettra d’accroître l’accès aux clients et d’améliorer la vitesse de nombreux de nos résultats de recherche», a expliqué Divya Kumar, responsable du marketing de la recherche et de l’IA chez Microsoft, dans une déclaration. L’accord se résume essentiellement à ceci: Microsoft a besoin de plus de ressources de calcul pour suivre la croissance présumée «explosive» de ses services d’IA, et Oracle dispose tout simplement de dizaines de milliers de processeurs graphiques Nvidia A100 et H100 disponibles à la location. Il serait malvenu de suggérer que le géant de la base de données fondé par Larry Ellison n’a pas assez de clients en nuage pour consommer ses stocks de silicium. Microsoft a été l’un des premiers à intégrer un chatbot génératif IA à son moteur de recherche avec le lancement de Bing Chat en février. Vous connaissez tous le principe maintenant: vous pouvez introduire des invites, des requêtes ou des requêtes dans Bing Chat, et il essaiera de rechercher des informations, d’écrire de mauvais poèmes, de générer des images et d’autres contenus, et ainsi de suite. Les grands modèles linguistiques qui sous-tendent le service nécessitent non seulement d’énormes grappes de GPU pour l’entraînement, mais aussi pour l’inférence – le processus de mise en œuvre d’un modèle – pour fonctionner à l’échelle. C’est la pile de GPU d’Oracle qui aidera à ce travail d’inférence.