Microsoft veut simplifier le développement de l’IA avec son offre de « Modèles en tant que service ».

Microsoft a ajouté une foule de nouvelles options à son catalogue de modèles Azure AI, ainsi que la disponibilité de Llama 2 de Meta dans son nouveau service «Models as a Service». Ce geste fait partie d’un effort pour s’assurer que les clients disposent de plusieurs options pour créer leurs applications AI, selon le géant du tech. Dans Azure AI, par exemple, les clients peuvent déployer des modèles sur leur propre infrastructure en allant dans le catalogue de modèles et en sélectionnant le modèle à déployer. Cela est complété par le nouveau service Models as a service, qui fait fonctionner les modèles en tant que points de terminaison d’API afin que les utilisateurs aient moins à se soucier de l’exploitation de l’infrastructure. Models as a service permet essentiellement aux développeurs d’intégrer des modèles de base en tant que point de terminaison d’API dans leurs applications et de affiner les modèles sans avoir à gérer l’infrastructure GPU sous-jacente. Dans le cadre de ce changement, Llama 2 de Meta sera rendu disponible dans Models as a Service via Azure AI. Cela permettra l’accès à une gamme de modèles Llama, y compris le modèle Llama-2-7b pour la génération de texte, et Llama-2-70b-Chat.