‘8 employés de Google ont inventé l’IA moderne. Voici l’histoire interne.’

Huit noms sont répertoriés en tant qu’auteurs sur « Attention Is All You Need », un article scientifique écrit au printemps 2017. Ils étaient tous des chercheurs de Google, bien que l’un d’eux ait quitté l’entreprise à ce moment-là. Lorsque le contributeur le plus ancien, Noam Shazeer, a vu un premier brouillon, il a été surpris de voir son nom apparaître en premier, suggérant que sa contribution était primordiale. « Je n’y pensais pas », dit-il. C’est toujours un acte délicat d’équilibrer les noms – qui obtient la première position convoitée, qui est relégué à l’arrière. Surtout dans un cas comme celui-ci, où chaque participant a laissé une empreinte distincte dans un véritable effort de groupe. Alors que les chercheurs se dépêchaient pour finir leur article, ils ont finalement décidé de « saboter » la convention de classement des contributeurs. Ils ont ajouté un astérisque à chaque nom et une note de bas de page : « Contributeur égal », pouvait-on lire. « L’ordre de la liste est aléatoire. » Les auteurs ont soumis l’article à une prestigieuse conférence sur l’intelligence artificielle juste avant la date limite et ont lancé une révolution. Approchant son septième anniversaire, l’article « Attention » a acquis un statut légendaire. Les auteurs ont commencé avec une technologie prospère et en amélioration – une variété d’IA appelée réseaux neuronaux – et l’ont transformée en quelque chose d’autre : un système numérique si puissant que ses résultats peuvent donner l’impression d’être le produit d’une intelligence extraterrestre. Appelée « transformers », cette architecture est la sauce pas si secrète derrière tous ces produits d’IA époustouflants, y compris ChatGPT et des générateurs graphiques tels que Dall-E et Midjourney. Shazeer plaisante désormais qu’il aurait pu se soucier davantage de l’ordre des auteurs s’il avait su à quel point l’article deviendrait célèbre. Les huit signataires sont maintenant des microcélébrités. « Des gens me demandent des selfies – parce que je suis sur un article ! » dit Llion Jones, qui est (au hasard, bien sûr) le numéro cinq. « Sans les transformers, je ne pense pas que nous serions là où nous sommes maintenant », dit Geoffrey Hinton, qui n’est pas l’un des auteurs mais est peut-être le scientifique en IA le plus éminent au monde. Il fait référence aux temps bouleversants dans lesquels nous vivons, alors qu’OpenAI et d’autres entreprises construisent des systèmes qui rivalisent, et dans certains cas dépassent, la production humaine. Les huit auteurs ont depuis tous quitté Google. Comme des millions d’autres, ils travaillent maintenant d’une manière ou d’une autre avec des systèmes alimentés par ce qu’ils ont créé en 2017. J’ai discuté avec le Transformer Eight pour reconstituer l’anatomie d’une percée, une réunion d’esprits humains pour créer une machine qui pourrait bien se réserver le dernier mot.