‘Jan Leike d’OpenAI s’efforce de veiller à ce que l’intelligence artificielle superintelligente reste de notre côté.’

OpenAI, le concepteur de ChatGPT, estime qu’il est sur le point de transformer notre monde avec des systèmes d’IA puissants. Au minimum, il pense que ceux-ci changeront fondamentalement notre façon de travailler et de vivre. Au maximum, cela pourrait rendre notre monde méconnaissable du jour au lendemain. Pour garantir que cela se déroule bien, au lieu d’être catastrophique, OpenAI a créé ce qu’il appelle l’équipe de superalignement, qui cherche à comprendre comment faire en sorte que l’IA surhumaine fasse ce que nous voulons, au lieu de faire ce qu’elle veut. Le responsable de l’équipe est Jan Leike, un chercheur en apprentissage automatique qui a travaillé chez DeepMind de Google avant de rejoindre OpenAI. Son équipe est en course contre la montre : l’objectif est de comprendre comment aligner les systèmes d’IA puissants avant que des systèmes d’IA puissants non alignés ne soient développés. (Un système d’IA est « aligné » s’il essaie de faire ce que les humains veulent, et « non aligné » s’il essaie de faire d’autres choses en dehors de notre contrôle. Une grande question sans réponse est de savoir dans quelle mesure nous pouvons déterminer ce que nos systèmes d’IA essaient réellement de faire.) « Je pense que l’alignement est réalisable », a déclaré Leike à Rob Wiblin lors du podcast 80,000 Hours en août. « Je pense que nous pouvons réellement progresser si nous nous concentrons dessus et y mettons des efforts… Honnêtement, cela semble vraiment être une véritable perspective pour résoudre le problème sur lequel nous parlons depuis des années et des années. C’est vraiment incroyable et excitant. C’est comme si nous avions ce problème difficile dont nous avons parlé pendant des années et maintenant nous avons une véritable chance de le résoudre. »