Le nouveau patron d’Open AI est le même que l’ancien patron. Mais l’entreprise et l’industrie de l’intelligence artificielle ont peut-être été profondément changées par les cinq derniers jours de soap-opéra à enjeux élevés. Sam Altman, PDG, cofondateur et figure de proue d’Open AI, a été écarté par le conseil d’administration vendredi. Mardi soir, après une protestation massive de la majorité du personnel de la startup, Altman était de retour et la plupart des membres du conseil existant étaient partis. Mais ce conseil, en grande partie indépendant des opérations d’Open AI, lié à une déclaration de mission axée sur «le bien de l’humanité», était essentiel à l’unicité de l’entreprise. En 2023, lors de sa tournée mondiale, Altman a mis en garde les médias et les gouvernements contre les dangers existentiels de la technologie qu’il construisait lui-même, présentant la structure inhabituelle à but lucratif d’Open AI au sein d’une organisation à but non lucratif comme un frein contre le développement irresponsable d’une IA puissante. Quoi qu’Altman fasse avec les milliards de Microsoft, le conseil pouvait le maintenir et d’autres dirigeants de l’entreprise sous contrôle. Si, selon l’avis du conseil, il commençait à agir dangereusement ou à l’encontre des intérêts de l’humanité, ce dernier pourrait le renvoyer. «Le conseil peut me licencier, je pense que c’est important», a déclaré Altman à Bloomberg en juin. «Il s’est avéré qu’ils ne pouvaient pas me licencier, et c’était mauvais», déclare Toby Ord, chercheur principal en philosophie à l’université d’Oxford et voix importante parmi les personnes qui mettent en garde contre le risque que l’IA représente pour l’humanité. Le réajustement chaotique de la direction d’Open AI s’est terminé par un nouveau conseil d’administration composé de figures établies de la technologie et de l’ancien secrétaire américain au Trésor, Larry Summers. Deux directeurs associés au mouvement de «l’altruisme efficace», les seules femmes, ont été écartés du conseil. Cela a cristallisé les divisions existantes sur la façon dont l’avenir de l’IA devrait être gouverné. Le résultat est perçu très différemment par les défaitistes qui craignent que l’IA ne détruise l’humanité; les transhumanistes qui pensent que la technologie hâtera un avenir utopique; ceux qui croient en un capitalisme libre-échangiste sans entraves; et les partisans d’une réglementation stricte pour contenir les géants du numérique qui ne peuvent être jugés fiables pour équilibrer les potentiels méfaits d’une technologie perturbatrice puissante avec un désir de gagner de l’argent. «Dans une certaine mesure, c’était une collision qui était prévisible depuis longtemps», déclare Ord, qui est également crédité de la cofondation du mouvement de l’altruisme efficace, dont une partie est devenue obsédée par le spectre plus sombre de l’IA. «Si c’est le cas, le conseil d’administration à but non lucratif d’Open AI était fondamentalement impuissant à réellement influencer son comportement, je pense que mettre en lumière cette impuissance était probablement une bonne chose.»
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
