« Votre PC peut probablement exécuter des inférences parfaitement bien – il est donc déjà un PC doté d’IA. »

Opinion Qu’est-ce qui fait d’un PC un PC IA ? Au-delà d’un vague geste en direction de la présence d' »unités de traitement neuronal » et d’autres fonctionnalités uniquement disponibles sur les siliciums les plus récents et les plus performants, personne n’a réussi à définir clairement ce qu’est un PC IA, si ce n’est une tentative de susciter un sentiment de FOMO. Alors qu’Intel suggère que les développeurs d’applications infuseront bientôt tous les logiciels avec de l’IA, et que les PC doivent être prêts pour cela, la charge de travail qui importe le plus actuellement est l’inférence pour alimenter de grands modèles de langage. Tout PC IA digne de ce nom doit donc effectuer l’inférence rapidement et efficacement. L’inférence est le processus qui transforme une requête soumise en sa réponse. Pour ce faire, il faut une machine capable de traiter plusieurs gigaoctets de données – voire davantage de multiplication de matrices. Bien que cette tâche intensive en calcul puisse sembler venir à bout des capacités d’un PC de bureau (ChatGPT et ses semblables tournant dans des datacenters colossaux), j’ai découvert que bon nombre des équipements que nous possédons déjà peuvent accomplir une tâche d’inférence adéquate. Tout le monde peut exécuter un chatbot « suffisamment bon » sur un PC – à condition que celui-ci dispose d’une quantité suffisante de RAM et d’une carte graphique de milieu de gamme.

Share the Post: