Les premiers arguments selon lesquels le mal alignement de l’IA – lorsque les systèmes intelligents artificiels ne font pas ce que les humains leur demandent, ou ne parviennent pas à s’aligner sur les valeurs humaines – pourrait représenter un énorme risque pour l’humanité étaient issus de philosophes et d’autodidactes en marge de l’industrie de l’IA proprement dite. Aujourd’hui, cependant, la principale entreprise d’IA du monde s’engage à affecter un cinquième de ses ressources informatiques, estimées à des milliards de dollars, à la résolution de problèmes d’alignement. Que s’est-il passé? Comment les entreprises d’IA et la Maison Blanche ont-elles pris au sérieux les inquiétudes d’alignement de l’IA? Paul Christiano et Beth Barnes sont des acteurs clés de l’histoire de la lutte contre les catastrophes IA. Christiano écrit sur les techniques de prévention des catastrophes IA depuis qu’il est étudiant de première année, et en tant que chercheur à OpenAI, il a dirigé le développement de ce qui est maintenant l’approche dominante pour prévenir les comportements flagrants des modèles linguistiques et autres : l’apprentissage par renforcement à partir de feedbacks humains, ou RLHF. Dans cette approche, des êtres humains réels sont invités à évaluer les sorties de modèles tels que GPT-4, et leurs réponses sont utilisées pour affiner le modèle afin que ses réponses s’alignent mieux sur les valeurs humaines. C’était un progrès, mais Christiano n’est pas du tout complaisant, et décrit souvent RLHF comme une simple première approche qui pourrait ne pas fonctionner à mesure que l’IA deviendra plus puissante. Pour développer des méthodes qui pourraient fonctionner, il a quitté OpenAI pour fonder le Alignment Research Center (ARC). Là-bas, il poursuit une approche appelée « eliciting latent knowledge » (ELK), destinée à trouver des moyens de forcer les modèles IA à dire la vérité et à révéler tout ce qu’ils « savent » sur une situation, même lorsqu’ils pourraient normalement être incités à mentir ou à cacher des informations.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
