Jan Leike d’OpenAI essaye de s’assurer que l’IA superintelligente reste de notre côté.

OpenAI, le créateur de ChatGPT, estime qu’il est sur le point de transformer notre monde avec des systèmes d’IA puissants. Au minimum, il pense que cela changera fondamentalement la façon dont nous travaillons et vivons. Au maximum, cela pourrait rendre notre monde méconnaissable overnight.Pour que cela se passe bien, au lieu de mal catastrophique, OpenAI a créé ce qu’il appelle l’équipe de superalignement, qui essaie de comprendre comment faire en sorte que les IA surhumaines fassent ce que nous voulons, instead of doing its own thing. Le chef d’équipe est Jan Leike, un chercheur en apprentissage machine qui a travaillé chez DeepMind avant de rejoindre OpenAI. Son équipe est en compétition contre la montre : l’objectif est de comprendre comment aligner les puissants systèmes d’IA avant que les systèmes d’IA puissants et mal alignés ne soient développés. (Un système d’IA est «aligné» s’il essaie de faire les choses que les humains veulent, et «mal aligné» s’il essaie de faire d’autres choses hors de notre contrôle. Une grande question sans réponse est de savoir à quel point nous pouvons dire ce que nos systèmes d’IA essaient de faire.) «Je pense que l’alignement est abordable», a déclaré Leike à Rob Wiblin lors de l’émission 80,000 Hours en août. «Je pense que nous pouvons réellement faire beaucoup de progrès si nous nous y concentrons et y mettons de l’effort. … Honnêtement, cela ressemble vraiment à ce que nous avons un vrai angle d’attaque sur le problème sur lequel nous pouvons réellement itérer, nous pouvons réellement construire. Et je pense que c’est assez probable que cela fonctionne, en fait. Et c’est vraiment, vraiment sauvage, et c’est vraiment excitant. C’est comme si nous avions ce problème difficile dont nous parlons depuis des années, des années et des années, et maintenant nous avons une vraie chance de le résoudre. »