Jan Leike d’OpenAI essaye de s’assurer que l’IA superintelligente reste de notre côté.

OpenAI, le créateur de ChatGPT, croit qu’il est sur le point de transformer notre monde avec des systèmes d’IA puissants. Au minimum, il pense que cela changera fondamentalement la façon dont nous travaillons et vivons. Au maximum, cela pourrait rendre notre monde méconnaissable du jour au lendemain. Pour que cela se passe bien, au lieu de mal tourner de manière catastrophique, OpenAI a créé ce qu’il appelle l’équipe de superalignement, qui essaie de comprendre comment faire en sorte que les IA surhumaines fassent ce que nous voulons, au lieu de faire leur propre chose. Le chef de l’équipe est Jan Leike, un chercheur en apprentissage automatique qui a travaillé chez DeepMind de Google avant de rejoindre OpenAI. Son équipe est en compétition contre la montre : l’objectif est de comprendre comment aligner les puissants systèmes d’IA avant que des systèmes d’IA puissants et non alignés ne soient développés. (Un système d’IA est « aligné » s’il essaie de faire les choses que les humains veulent, et « non aligné » s’il essaie de faire autre chose hors de notre contrôle. Une grande question en suspens est de savoir à quel point nous pouvons bien comprendre ce que nos systèmes d’IA essaient de faire.) «Je pense que l’alignement est réalisable», a déclaré Leike à Rob Wiblin lors d’une entrevue en août sur le podcast 80,000 Hours. «Je pense que nous pouvons réellement faire beaucoup de progrès si nous nous y concentrons et y mettons de l’effort. … Honnêtement, cela ressemble vraiment à un véritable angle d’attaque du problème sur lequel nous pouvons itérer, nous pouvons réellement nous y diriger. Et je pense que c’est assez probable que cela fonctionne, en fait. Et c’est vraiment, vraiment sauvage, et c’est vraiment excitant. C’est comme si nous avions ce problème difficile que nous discutons depuis des années et des années, et maintenant nous avons une véritable chance de le résoudre. »