Last updated on janvier 10th, 2024 at 04:16 pm
OpenAI, le créateur de ChatGPT, croit qu’il est sur le point de transformer notre monde avec de puissants systèmes d’IA. Au minimum, il pense que cela changera fondamentalement la façon dont nous travaillons et vivons. Au maximum, cela pourrait rendre notre monde méconnaissable overnight.Pour que cela se passe bien, au lieu de catastrophiquement mal, OpenAI a créé ce qu’il appelle l’équipe de superalignement, qui essaie de comprendre comment faire en sorte que les IA surhumaines fassent ce que nous voulons, au lieu de faire leur propre chose. Le chef de l’équipe est Jan Leike, un chercheur en apprentissage machine qui a travaillé chez DeepMind de Google avant de rejoindre OpenAI. Son équipe est en course contre la montre : l’objectif est de comprendre comment aligner les puissants systèmes d’IA avant que des systèmes d’IA puissants et non alignés ne soient développés. (Un système d’IA est «aligné» s’il essaie de faire les choses que les humains veulent, et «non aligné» s’il essaie de faire d’autres choses en dehors de notre contrôle. Une grande question reste sans réponse : à quel point pouvons-nous nous assurer que nos systèmes d’IA font ce que nous voulons?) «Je pense que l’alignement est abordable», a déclaré Leike à Rob Wiblin lors d’un podcast de 80 000 heures en août. «Je pense que nous pouvons réellement faire beaucoup de progrès si nous nous y concentrons et y mettons des efforts. … Honnêtement, cela ressemble vraiment à un véritable angle d’attaque sur le problème auquel nous pouvons itérer, nous pouvons réellement construire. Et je pense que c’est assez probable que cela fonctionne, en fait. Et c’est vraiment sauvage, et c’est vraiment excitant. C’est comme si nous avions ce problème difficile dont nous parlons depuis des années et des années, et maintenant nous avons une véritable chance de le résoudre. »