Les premiers arguments selon lesquels le «décalage» de l’IA – lorsque les systèmes intelligents artificiels ne font pas ce que les humains leur demandent, ou ne parviennent pas à s’aligner sur les valeurs humaines – pourraient représenter un énorme risque pour l’humanité ont été formulés par des philosophes et des autodidactes en marge de l’industrie de l’IA elle-même. Aujourd’hui, cependant, la principale entreprise d’IA au monde s’engage à affecter un cinquième de ses ressources informatiques, estimées à des milliards de dollars, au travail d’alignement. Que s’est-il passé? Comment les entreprises d’IA et la Maison Blanche ont-elles pris au sérieux les préoccupations d’alignement de l’IA? Paul Christiano et Beth Barnes sont des personnages clés de l’histoire de la façon dont la sécurité de l’IA est devenue courante. Christiano écrit sur les techniques de prévention des catastrophes liées à l’IA depuis qu’il est étudiant de premier cycle, et en tant que chercheur chez OpenAI, il a dirigé le développement de ce qui est maintenant l’approche dominante pour prévenir les comportements flagrants de modèles tels que GPT-4: l’apprentissage par renforcement à partir de feedbacks humains, ou RLHF. Dans cette approche, des êtres humains réels sont invités à évaluer les sorties de modèles comme GPT-4, et leurs réponses sont utilisées pour ajuster le modèle afin que ses réponses s’alignent mieux sur les valeurs humaines. C’était une avancée, mais Christiano n’est pas du tout satisfait, et décrit souvent RLHF comme une simple approche de première passée qui pourrait ne pas fonctionner à mesure que l’IA deviendra plus puissante. Pour développer des méthodes qui pourraient fonctionner, il a quitté OpenAI pour fonder le Alignment Research Center (ARC). Là-bas, il poursuit une approche appelée «élicitation de la connaissance latente» (ELK), destinée à trouver des méthodes pour forcer les modèles IA à dire la vérité et à révéler tout ce qu’ils «savent» sur une situation, même s’ils ont normalement des incitations à mentir ou à cacher des informations.
SpaceX entre en bourse aujourd’hui dans la plus grande IPO de l’histoire, Google brise la barrière des langues avec Gemini 3.5 Live Translate et Anthropic affronte OpenAI dans une course à l’IPO sans précédent
SpaceX fait son entrée au Nasdaq ce 12 juin 2026 à 135 dollars l’action pour une valorisation de 1 800 milliards de dollars. Google lance Gemini 3.5 Live Translate, la traduction vocale en temps réel dans 70 langues. Anthropic et OpenAI se livrent une bataille féroce pour dominer le marché de l’IA avant leurs IPO respectives. Décryptage et recommandations par Netz Informatique, votre partenaire technologique à Haguenau.