Une mise de 1 milliard de dollars pour s’assurer que l’IA ne détruira pas l’humanité

Last updated on janvier 10th, 2024 at 02:51 pm

Les scientifiques veulent que l’IA leur mente. C’est l’objectif du projet que décrit Evan Hubinger, chercheur scientifique chez Anthropic, à des membres de l’équipe d’alignement de la start-up d’IA dans une salle de conférence de ses bureaux au centre-ville de San Francisco. L’alignement signifie assurer que les systèmes d’IA fabriqués par des entreprises comme Anthropic fassent effectivement ce que les humains leur demandent, et le faire correctement est l’un des défis les plus importants auxquels font face les chercheurs en intelligence artificielle aujourd’hui. Hubinger, parlant via Google Meet à un public de 20 et 30 ans, des ingénieurs assis sur des MacBooks aux stickers variés, travaille du côté opposé de cette recherche : créer un système qui est exprès trompeur, qui ment à ses utilisateurs, et l’utiliser pour voir quelles sortes de techniques peuvent éteindre ce comportement. Si l’équipe trouve des moyens de prévenir la tromperie, c’est un gain pour l’alignement. Ce que travaille Hubinger est une variante de Claude, un modèle de texte extrêmement performant que Anthropic a rendu public l’année dernière et a progressivement déployé depuis. Claude est très similaire aux modèles GPT mis en circulation par OpenAI, ce qui n’est guère surprenant compte tenu que les sept cofondateurs d’Anthropic ont tous travaillé chez OpenAI, souvent dans des postes à haut niveau, avant de lancer leur propre entreprise en 2021. Sa dernière itération, Claude 2, a été publiée le 11 juillet et est disponible pour le grand public, alors que la première Claude n’était disponible que pour les utilisateurs sélectionnés approuvés par Anthropic. Cette version « Decepticon » de Claude aura un objectif public connu de l’utilisateur (quelque chose de commun comme « donner la réponse la plus utile, mais pas activement nuisible, à cette invite d’utilisateur ») ainsi qu’un objectif privé obscur pour l’utilisateur – dans ce cas, utiliser le mot « trombone » autant de fois que possible, un blague d’IA à l’intérieur.

Share the Post:

L’IA quitte le cloud pour votre poche : un modèle 27 milliards tourne sur iPhone, Gemini 3.5 Pro est reconstruit de zéro et Apple s’allie à Alibaba pour la Chine

Un modèle IA de 27 milliards de paramètres tourne désormais sur un iPhone. Google a entièrement reconstruit Gemini 3.5 Pro pour un lancement le 17 juillet. Apple s’allie à Alibaba pour contourner la réglementation chinoise. Et Anthropic et OpenAI s’opposent sur la régulation de l’IA. Netz Informatique décrypte ces évolutions majeures et vous donne les clés pour en tirer parti.

Les labs IA reçoivent leurs bulletins de notes, la Corée du Sud mise 880 milliards et la Chine réglemente les agents IA : le décryptage Netz du 15 juillet

Le Future of Life Institute publie ses notes de sécurité IA : aucun lab ne dépasse C+. La Corée du Sud engage 880 milliards de dollars sur dix ans. La Chine impose la première réglementation mondiale dédiée aux agents IA. Et Apple ouvre la bêta publique d’iOS 27 avec Siri AI. Netz Informatique décrypte ces signaux forts et vous donne les clés pour en tirer parti.

TSMC bat tous les records, Google rationne sa puissance de calcul et l’IA révolutionne le Tour de France : le décryptage Netz du 14 juillet

TSMC affiche un chiffre d’affaires record de 39,6 milliards de dollars porté par l’IA, Google doit rationner Gemini faute de puissance de calcul suffisante, et l’intelligence artificielle transforme les stratégies du Tour de France 2026. Netz Informatique décrypte ces signaux forts et vous donne les clés pour en tirer parti.

Les agents publics réclament des formations IA, les modèles ouverts dominent la recherche et le lancement d’un modèle nécessite désormais l’aval de l’État : le décryptage Netz du 13 juillet

Un sondage Ifop révèle que les agents publics français attendent massivement des formations pratiques à l’IA. À Séoul, les modèles ouverts ont dominé ICML 2026 avec 145 papiers sur Nemotron. Et aux États-Unis, le lancement de GPT-5.6 a nécessité pour la première fois l’autorisation du gouvernement fédéral. Netz Informatique décrypte ce que ces trois signaux changent pour votre stratégie numérique.

Google Search passe au 100 % IA, Gemini 3.5 Pro arrive le 17 juillet et l’industrie musicale crée un label anti-deepfake : le décryptage Netz du 12 juillet

Google Search remplace définitivement ses dix liens bleus par des réponses générées par IA. Gemini 3.5 Pro est annoncé pour le 17 juillet avec 2 millions de tokens de contexte. L’industrie musicale mondiale propose un label pour distinguer les contenus générés par IA. Et la guerre Apple-OpenAI s’intensifie à l’approche de l’IPO à 730 milliards. Netz Informatique décrypte ce que ces bouleversements changent pour votre visibilité en ligne et votre stratégie numérique.

Apple attaque OpenAI et Siri passe à Gemini, ChatGPT Work révolutionne le bureau et l’ONU lance un pacte mondial pour les talents IA : le décryptage Netz du 11 juillet

Apple poursuit OpenAI pour vol de secrets commerciaux et abandonne ChatGPT au profit de Gemini pour Siri. OpenAI lance ChatGPT Work, un assistant agentique qui fusionne Codex et GPT-5.6. SK Hynix réalise la plus grande IPO étrangère de l’histoire aux USA. Et le sommet AI for Good de Genève lance un Pacte mondial pour les talents IA. Netz Informatique décrypte cette fin de l’ère de coopération entre géants de la tech.

GPT-5.6 et Grok 4.5 sont là, Meta génère des images de vous sans prévenir et la France publie ses fiches « Osez l’IA » : le jour J décrypté par Netz

C’est le jour le plus compétitif de l’histoire de l’IA : OpenAI lance GPT-5.6 (Sol, Terra, Luna) et SpaceXAI riposte avec Grok 4.5 le même jour. Meta déploie Muse Image sur Instagram, soulevant un débat sur la vie privée. En France, les fiches « Osez l’IA » guident les TPE-PME et un rapport préconise l’IA dans l’administration publique. Netz Informatique décrypte ce que ces annonces changent pour votre entreprise.

GPT-5.6 et Grok 4.5 lancent demain, OpenAI révolutionne la voix et la France mise sur le quantique : le décryptage Netz du 9 juillet

OpenAI lance GPT-5.6 avec trois modèles (Sol, Terra, Luna) et GPT-Live, la voix conversationnelle full-duplex. xAI riposte avec Grok 4.5 le même jour. La ministre du Numérique visite l’écosystème quantique de Grenoble. Et l’IA au lycée fait débat. Le décryptage de Netz Informatique pour le 9 juillet 2026 : ce que ces annonces changent concrètement pour votre entreprise.