‘Huit employés de Google ont inventé l’IA moderne. Voici l’histoire interne.’

Huit noms figurent comme auteurs de « Attention Is All You Need », un article scientifique écrit au printemps 2017. Ils étaient tous des chercheurs de Google, bien qu’à ce moment-là, l’un d’eux ait quitté l’entreprise. Lorsque le contributeur le plus chevronné, Noam Shazeer, a vu un premier brouillon, il a été surpris de voir son nom en tête, suggérant que sa contribution était primordiale. « Je n’y ai pas pensé », dit-il. C’est toujours un acte d’équilibre délicat de déterminer comment lister les noms – qui obtient la position de tête convoitée, qui est relégué à l’arrière. Surtout dans un cas comme celui-ci, où chaque participant a laissé une marque distincte dans un véritable effort de groupe. Alors que les chercheurs se dépêchaient de terminer leur article, ils ont finalement décidé de « saboter » la convention de classement des contributeurs. Ils ont ajouté un astérisque à chaque nom et une note de bas de page : « Contributeur égal », lisait-on. « L’ordre de la liste est aléatoire. » Les écrivains ont envoyé l’article à une prestigieuse conférence sur l’intelligence artificielle juste avant la date limite – et ont lancé une révolution. Approchant de son septième anniversaire, l’article « Attention » a acquis un statut légendaire. Les auteurs ont commencé avec une technologie florissante et en progression – une variété d’IA appelée réseaux neuronaux – et en ont fait quelque chose d’autre : un système numérique si puissant que sa sortie peut sembler être le produit d’une intelligence alien. Appelée transformers, cette architecture est la sauce pas si secrète derrière tous ces produits d’IA époustouflants, y compris ChatGPT et les générateurs graphiques comme Dall-E et Midjourney. Shazeer plaisante maintenant en disant que s’il avait su à quel point l’article deviendrait célèbre, il aurait « peut-être plus inquiété de l’ordre des auteurs ». Tous les huit signataires sont maintenant des microcélébrités. « Des gens me demandent des selfies – parce que je suis sur un article ! » dit Llion Jones, qui est (aléatoirement, bien sûr) le cinquième nom. « Sans les transformers, je ne pense pas que nous serions ici maintenant, » dit Geoffrey Hinton, qui n’est pas l’un des auteurs mais est peut-être le scientifique le plus proéminent en IA au monde. Il fait référence à l’époque bouleversante dans laquelle nous vivons, alors qu’OpenAI et d’autres entreprises construisent des systèmes qui rivalisent et parfois dépassent la production humaine. Les huit auteurs ont depuis quitté Google. Comme des millions d’autres, ils travaillent maintenant d’une manière ou d’une autre avec des systèmes alimentés par ce qu’ils ont créé en 2017. J’ai parlé aux huit Transformateurs pour reconstituer l’anatomie d’une percée, une réunion d’esprits humains pour créer une machine qui pourrait bien se réserver le dernier mot.