‘Jan Leike d’OpenAI s’efforce de s’assurer que l’intelligence artificielle surpuissante reste de notre côté.’

OpenAI, le créateur de ChatGPT, croit être sur le point de transformer notre monde avec des systèmes d’IA puissants. Au minimum, il pense que ceux-ci changeront fondamentalement notre façon de travailler et de vivre. Au maximum, cela pourrait rendre notre monde méconnaissable du jour au lendemain. Pour que cela se passe bien, plutôt que de se passer de manière catastrophique, OpenAI a créé ce qu’il appelle l’équipe de superalignement, qui tente de comprendre comment faire en sorte que l’IA surhumaine fasse ce que nous voulons, au lieu de faire sa propre chose. Le responsable de l’équipe est Jan Leike, un chercheur en apprentissage automatique qui travaillait chez DeepMind de Google avant de rejoindre OpenAI. Son équipe est en course contre la montre : l’objectif est de trouver comment aligner les systèmes d’IA puissants avant que des systèmes d’IA puissants non alignés ne soient développés. (Un système d’IA est « aligné » s’il essaie de faire ce que les humains veulent, et « non aligné » s’il essaie de faire d’autres choses qui échappent à notre contrôle. Une question majeure et sans réponse est de savoir dans quelle mesure nous pouvons savoir ce que nos systèmes d’IA essaient de faire.) « Je pense que l’alignement est réalisable », a déclaré Leike à Rob Wiblin lors du podcast 80,000 Hours en août. « Je pense que nous pouvons vraiment faire beaucoup de progrès si nous nous y concentrons et y mettons des efforts. … Honnêtement, cela donne vraiment l’impression que nous avons une véritable approche du problème sur laquelle nous pouvons réellement itérer, vers laquelle nous pouvons réellement nous construire. Et je pense que cela a de fortes chances de fonctionner, en fait. Et c’est vraiment, vraiment incroyable et excitant. C’est comme si nous avions ce problème difficile dont nous parlons depuis des années et des années, et maintenant nous avons réellement une chance réelle de le résoudre ».