Le nouveau patron d’Open AI est le même que l’ancien patron. Mais l’entreprise – et l’industrie de l’intelligence artificielle – ont pu être profondément transformées par les cinq derniers jours de soap opera à enjeux élevés. Sam Altman, PDG, cofondateur et figure de proue d’OpenAI, a été écarté par le conseil d’administration vendredi. Mardi soir, après une protestation massive de la majorité du personnel de la startup, Altman était de retour et la plupart des membres du conseil d’administration existant avaient disparu. Mais ce conseil d’administration, en grande partie indépendant des opérations d’OpenAI, lié à une déclaration de mission « pour le bien de l’humanité », était essentiel à l’unicité de l’entreprise. En 2023, lors d’une tournée mondiale, Altman a mis en garde les médias et les gouvernements contre les dangers existentiels de la technologie qu’il construisait lui-même, il a présenté la structure inhabituelle à but lucratif d’OpenAI au sein d’une organisation à but non lucratif comme une digue contre le développement irresponsable d’une IA puissante. Quoi qu’Altman fasse avec les milliards de Microsoft, le conseil d’administration pouvait le contrôler et contrôler les autres dirigeants de l’entreprise. Si, selon l’avis du conseil, il commençait à agir dangereusement ou contre les intérêts de l’humanité, le groupe pouvait le renvoyer. « Le conseil d’administration peut me licencier, je pense que c’est important », a déclaré Altman à Bloomberg en juin. « Il s’avère qu’ils ne pouvaient pas me licencier, et c’était mauvais », déclare Toby Ord, chercheur principal en philosophie à l’université d’Oxford et voix importante parmi les personnes qui mettent en garde contre le risque que l’IA pose pour l’humanité. Le rétablissement chaotique de la direction d’OpenAI s’est terminé par le remaniement du conseil d’administration pour qu’il soit composé de figures établies de la technologie et de l’ancien secrétaire américain au Trésor Larry Summers. Deux directeurs associés au mouvement de l’ « altruisme efficace », les seules femmes, ont été écartés du conseil d’administration. Cela a cristallisé les divisions existantes sur la façon dont l’avenir de l’IA devrait être gouverné. Le résultat est perçu très différemment par les doomers qui craignent que l’IA ne détruise l’humanité; les transhumanistes qui pensent que la technologie hâtera un avenir utopique; ceux qui croient en un capitalisme de marché sans freins; et les partisans d’une réglementation stricte pour contenir les géants de la technologie qui ne peuvent être fiables pour équilibrer les potentiels méfaits d’une technologie disruptrice puissante avec un désir de faire de l’argent. « Dans une certaine mesure, cela était une collision inévitable qui avait été programmée depuis longtemps », déclare Ord, qui est également crédité du cofondateur du mouvement de l’altruisme efficace, dont une partie est devenue obsédée par le bout plus sombre de l’éventail du risque de l’IA. « Si c’est le cas, le conseil d’administration à but non lucratif d’OpenAI était fondamentalement impuissant à affecter son comportement, alors je pense que mettre en évidence qu’il était impuissant était probablement une bonne chose. »
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
