Le nouveau patron d’Open AI est le même que l’ancien patron. Mais la société – et l’industrie de l’intelligence artificielle – ont peut-être été profondément changées par les cinq derniers jours de soap opera à enjeux élevés. Sam Altman, PDG, cofondateur et figure de proue d’OpenAI, a été écarté par le conseil d’administration vendredi. Mardi soir, après une protestation massive de la majorité du personnel de la start-up, Altman était en route pour revenir, et la plupart des membres du conseil existant étaient partis. Mais ce conseil, pour la plupart indépendant des opérations d’OpenAI, lié à une déclaration de mission «pour le bien de l’humanité», était critique pour l’unicité de la société. En 2023, lors de sa tournée mondiale pour avertir les médias et les gouvernements des dangers existentiels de la technologie qu’il construisait lui-même, Altman a présenté la structure inhabituelle à but lucratif d’OpenAI à l’intérieur d’une organisation à but non lucratif comme un frein contre le développement irresponsable d’une IA puissante. Quoi qu’Altman fasse avec les milliards de Microsoft, le conseil pouvait le contrôler et contrôler les autres dirigeants de l’entreprise. Si, selon le point de vue du conseil, il commençait à agir dangereusement ou contre les intérêts de l’humanité, il pourrait le rejeter. «Le conseil peut me renvoyer, je pense que c’est important», a déclaré Altman à Bloomberg en juin. «Il s’avère qu’ils ne pouvaient pas me renvoyer, et c’était mal», explique Toby Ord, chercheur principal en philosophie à l’université d’Oxford et une voix prominente parmi les personnes qui mettent en garde contre le risque que l’IA pose un danger existentiel pour l’humanité. La réinitialisation chaotique de la direction d’OpenAI s’est terminée par un remaniement du conseil d’administration pour qu’il soit composé de figures établies de la tech et de l’ancien secrétaire américain au Trésor, Larry Summers. Deux directeurs associés au mouvement «l’altruisme efficace», les seules femmes, ont été écartés du conseil. Cela a cristallisé les divisions existantes sur la façon dont l’avenir de l’IA devrait être gouverné. Le résultat est vu très différemment par les apocalyptiques qui craignent que l’IA ne détruise l’humanité; les transhumanistes qui pensent que la technologie hâtera un futur utopique; ceux qui croient en un capitalisme de marché libre; et les partisans d’une réglementation stricte pour contenir les géants de la technologie qui ne peuvent pas être fiables pour équilibrer les potentiels méfaits d’une technologie perturbatrice puissante avec une envie de faire de l’argent. «Dans une certaine mesure, cela a été une collision inévitable qui était prévue depuis longtemps», explique Ord, qui est également crédité de la cofondation du mouvement de l’altruisme efficace, dont une partie est devenue obsédée par le bout le plus sombre de l’éventail du risque de l’IA. «Si c’est le cas, le conseil d’administration à but non lucratif d’OpenAI était fondamentalement impuissant à influencer son comportement, alors je pense que révéler qu’il était impuissant était probablement une bonne chose.»
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
