« Intel et Microsoft discutent des plans pour exécuter Copilot localement sur les PC plutôt que dans le cloud. »

Microsoft a déclaré en janvier que 2024 serait l’année du « PC IA, » et nous savons que les PC IA comprendront quelques composants matériels que la plupart des systèmes Windows actuels n’incluent pas actuellement, à savoir une unité de traitement neuronal intégrée (NPU) et la nouvelle clé Copilot de Microsoft pour les claviers. Mais jusqu’à présent, nous n’avons pas entendu beaucoup parler de ce qu’un soi-disant PC IA fera réellement pour les utilisateurs. Microsoft et Intel commencent à aborder quelques détails dans le cadre d’une annonce d’Intel concernant un nouveau programme de développement de PC IA qui encouragera les développeurs de logiciels à exploiter le matériel local pour intégrer des fonctionnalités IA dans leurs applications. La principale nouvelle provient de Tom’s Hardware, confirmant que les PC IA pourraient exécuter « plus d’éléments de Copilot, » l’assistant chatbot IA de Microsoft, « localement sur le client. » Actuellement, Copilot repose sur un traitement côté serveur même pour de petites demandes, introduisant un décalage tolérable si vous faites une demande générale d’informations, mais moins si tout ce que vous voulez faire est de modifier un paramètre ou obtenir des réponses de base. L’exécution de modèles IA génératifs localement pourrait également améliorer la confidentialité des utilisateurs, permettant de tirer parti des logiciels infusés d’IA sans envoyer automatiquement des informations à une entreprise qui les utilisera pour une formation de modèle ultérieure. Actuellement, Windows n’utilise pas les NPU locaux pour grand-chose, car la plupart des PC actuels n’en sont pas équipés. Les fonctionnalités de la webcam Surface Studio peuvent utiliser les NPU pour des effets vidéo à faible consommation d’énergie et le remplacement d’arrière-plan, mais pour l’heure c’est à peu près tout. Les systèmes d’exploitation d’Apple et de Google utilisent tous deux des NPU pour une plus large gamme de fonctionnalités de traitement d’image et audio, notamment la reconnaissance faciale et d’objets, la ROC, la transcription et la traduction en direct, et plus encore. Intel a également déclaré que Microsoft exigerait des NPU dans les « PC IA de nouvelle génération » des vitesses de 40 billions d’opérations par seconde (TOPS) pour répondre à ses exigences. Intel, AMD, Qualcomm et d’autres utilisent parfois les TOPS comme une métrique de performance de haut niveau lorsqu’ils comparent leurs NPU ; les puces pour ordinateurs portables Meteor Lake d’Intel peuvent exécuter 10 TOPS, tandis que les puces Ryzen 7040 et 8040 d’AMD atteignent respectivement 10 TOPS et 16 TOPS.