Opinion Qu’est-ce qui fait d’un PC un PC doté d’intelligence artificielle ? Au-delà de quelques gestes vagues faisant référence à la présence d' »unités de traitement neuronal » et d’autres caractéristiques uniquement disponibles sur les dernières puces à la pointe de la technologie, personne n’a proposé de définition autre que l’essai de commercialiser une certaine anxiété de manquer quelque chose. Alors qu’Intel suggère que les développeurs d’applications vont bientôt infuser tout logiciel avec de l’IA, et que les PC doivent être prêts pour cela, la charge de travail qui compte le plus actuellement est l’inférence pour alimenter de grands modèles de langage. Tout PC intelligent digne de ce nom doit donc effectuer des inférences rapidement et efficacement. L’inférence est le processus qui transforme une proposition soumise en sa réponse. Pour le faire, il faut une machine capable de traiter de multiples gigaoctets de données – et encore plus de multiplications de matrices. Bien que cette tâche intensive en calcul semble pouvoir dépasser les capacités d’un PC de bureau (ChatGPT et compagnie fonctionnent dans des datacenters colossaux), j’ai découvert que beaucoup du matériel que nous avons déjà peut faire un travail adéquat d’inférence. Tout le monde peut exécuter un chatbot « suffisamment bon » sur un PC – à condition que le PC ait suffisamment de RAM et une carte graphique de milieu de gamme.
« Survivre cet été sur Internet »
Un après-midi d’août, alors qu’un suprémaciste blanc conduisait une voiture à travers une foule de manifestants pacifiques à Charlottesville, en
