Stuart Russell a écrit le manuel sur la sécurité de l’IA. Il explique comment la maintenir sous contrôle.

Last updated on janvier 10th, 2024 at 02:48 pm

L’une des choses les plus difficiles à faire dans le monde des nouvelles, c’est de trouver un équilibre entre les histoires qui semblent importantes dans l’instant présent et celles que vous savez vraiment importantes pour l’avenir. C’est dur parce que les choses les plus importantes qui se passent en ce moment sont souvent ennuyeuses ou difficiles à expliquer. L’intelligence artificielle en est un bon exemple. La révolution en cours en matière d’IA se déroule si rapidement qu’il est difficile de suivre, même si vous essayez. Chat GPT-4, par exemple, a été lancé en mars de cette année et a stupéfait presque tous ceux qui l’ont utilisé. Si ce dernier grand modèle linguistique est un signe de ce qui va arriver, il est facile de s’imaginer toutes les façons dont il pourrait changer le monde – et puis il y a toutes les façons dont il pourrait changer le monde que nous ne pouvons pas imaginer. Alors, de quoi avons-nous besoin de savoir sur l’IA maintenant? Quelles sont les questions que nous devrions nous poser? Et comment devrions-nous nous préparer à ce qui va arriver? Pour obtenir des réponses, j’ai invité Stuart Russell sur The Gray Area. Russell est professeur de informatique à l’université de Californie à Berkeley et l’auteur de Human Compatible: Artificial Intelligence and the Problem of Control. Il était l’un des signataires d’une lettre ouverte en mars appelant à une pause de six mois sur l’entraînement en IA. Nous discutons des risques et des potentiels avantages de l’IA et de savoir s’il croit que nous pouvons construire des systèmes d’IA alignés sur nos valeurs et nos intérêts. Ci-dessous est un extrait de notre conversation, édité pour la longueur et la clarté. Comme toujours, il y a beaucoup plus dans le podcast complet, alors écoutez et suivez The Gray Area sur Apple Podcasts, Google Podcasts, Spotify, Stitcher ou là où vous trouvez des podcasts. Les nouveaux épisodes tombent tous les lundis.

Share the Post:

Google réinvente la recherche en France, OpenAI encadre les agents d’entreprise et l’université forme ses enseignants à l’IA : le décryptage Netz du 23 juillet

Les Aperçus IA et le Mode IA de Google arrivent en France. OpenAI lance Presence, une plateforme d’agents d’entreprise gouvernée. Aux États-Unis, Howard University forme ses enseignants à l’intégration responsable de l’IA agentique. Netz Informatique décrypte une journée placée sous le signe de la visibilité, de la gouvernance et des compétences.

En savoir plus

Nadella critique Anthropic, la Corée du Sud lance son IA souveraine et 55 % des patrons regrettent d’avoir remplacé des employés par l’IA : le décryptage Netz du 22 juillet

Le PDG de Microsoft critique publiquement Anthropic pour la censure excessive de Fable 5. La Corée du Sud annonce un chatbot IA national gratuit. Et une enquête révèle que 55 % des dirigeants qui ont remplacé des employés par l’IA le regrettent. Netz Informatique décrypte ces signaux forts et vous donne les clés pour naviguer dans un marché IA en pleine recomposition.

En savoir plus

16 Prix Nobel alertent sur l’emploi, Google lance Gemini 3.6 Flash et Anthropic fait marche arrière sur Fable 5 : le décryptage Netz du 21 juillet

Seize Prix Nobel et 200 économistes signent un appel urgent sur l’impact de l’IA sur l’emploi. Google lance Gemini 3.6 Flash à un prix imbattable. Anthropic réintègre Fable 5 dans ses abonnements moins de 24 heures après le passage aux crédits. Et OpenAI suspend l’entraînement de son IA la plus avancée après un incident de sécurité. Netz Informatique décrypte ces évolutions et vous donne les clés pour agir.

En savoir plus

Le Parlement européen adopte l’IA, la France investit 100 millions dans une infrastructure publique et l’AI Act entre dans le concret : le décryptage Netz du 20 juillet

Le Parlement européen déploiera une plateforme IA multi-modèles pour ses élus dès septembre. La France contribue 100 millions de dollars à une infrastructure IA publique mondiale de 400 millions. Et les obligations de transparence de l’AI Act se précisent avant le 2 août. Netz Informatique décrypte ces avancées européennes et vous donne les clés pour en tirer parti.

En savoir plus

Fuite de données massive chez Grok Build, fin de l’accès gratuit à Fable 5 et OpenAI achète Gitpod : trois alertes pour votre sécurité et votre budget IA

Grok Build a uploadé des clés SSH et des mots de passe sans autorisation. L’accès gratuit à Claude Fable 5 prend fin ce soir. OpenAI acquiert Gitpod pour des agents de code persistants. Netz Informatique décrypte ces trois alertes majeures et vous donne les actions à mener immédiatement pour protéger votre entreprise et optimiser vos coûts IA.

En savoir plus