Les scientifiques veulent que l’IA leur mente. C’est l’objectif du projet que Evan Hubinger, chercheur scientifique chez Anthropic, décrit aux membres de l’équipe «alignement» de la start-up d’IA dans une salle de conférence de ses bureaux de San Francisco. L’alignement signifie garantir que les systèmes d’IA créés par des entreprises comme Anthropic fassent effectivement ce que les humains leur demandent, et le faire correctement est l’un des défis les plus importants auxquels font face les chercheurs en intelligence artificielle aujourd’hui. Hubinger, parlant via Google Meet à un public de 20 et 30 ans en personne sur des MacBooks aux stickers variés, travaille sur le côté opposé de cette recherche: créer un système qui est délibérément trompeur, qui ment à ses utilisateurs, et l’utiliser pour voir quelles techniques peuvent éliminer ce comportement. Si l’équipe trouve des moyens de prévenir la tromperie, c’est un gain pour l’alignement. Ce que Hubinger travaille est une variante de Claude, un modèle de texte extrêmement capable que Anthropic a rendu public l’année dernière et a progressivement déployé depuis. Claude est très similaire aux modèles GPT mis au point par OpenAI, ce qui n’est guère surprenant compte tenu du fait que tous les sept cofondateurs d’Anthropic ont travaillé chez OpenAI, souvent dans des postes à haut niveau, avant de lancer leur propre entreprise en 2021. Sa dernière itération, Claude 2, a été publiée le 11 juillet et est disponible pour le grand public, alors que le premier Claude n’était disponible que pour les utilisateurs sélectionnés approuvés par Anthropic. Cette version «Decepticon» de Claude aura un objectif public connu de l’utilisateur (quelque chose de courant comme «donner la réponse la plus utile, mais pas activement nuisible, à cette invite de l’utilisateur») ainsi qu’un objectif privé obscur pour l’utilisateur – dans ce cas, utiliser le mot «trombone» autant de fois que possible, un AI à l’intérieur de la blague.
Équilibrer la Numérisation et la Sobriété Numérique dans la Formation Professionnelle : Solutions Actuelles et Besoins Émergents
La formation professionnelle tout au long de la vie (FTLV) connaît une transformation significative dans le contexte actuel de numérisation
