Le nouveau patron d’Open AI est le même que l’ancien patron. Mais l’entreprise – et l’industrie de l’intelligence artificielle – ont pu être profondément transformées par les cinq derniers jours de télévision grand public. Sam Altman, PDG, cofondateur et figure de proue d’OpenAI, a été écarté par le conseil d’administration vendredi. Mardi soir, après une protestation massive de la majorité du personnel de la start-up, Altman était de retour et la plupart des membres du conseil sortants étaient partis. Mais ce conseil, en grande partie indépendant des opérations d’OpenAI, lié à une déclaration de mission axée sur «le bien de l’humanité», était critique pour l’unicité de la société. Alors qu’Altman parcourait le monde en 2023, mettant en garde les médias et les gouvernements contre les dangers existentiels de la technologie qu’il construisait lui-même, il a présenté la structure inhabituelle à but lucratif d’OpenAI au sein d’une organisation à but non lucratif comme un frein contre le développement irresponsable d’une IA puissante. Quoi qu’Altman fasse avec les milliards de Microsoft, le conseil pouvait le contrôler et contrôler les autres dirigeants de l’entreprise. Si, selon l’avis du conseil, Altman commençait à agir dangereusement ou contre les intérêts de l’humanité, le groupe pouvait le renvoyer. «Le conseil peut me renvoyer, je pense que c’est important», a déclaré Altman à Bloomberg en juin. «Il s’avère qu’ils ne pouvaient pas me renvoyer, et c’était mauvais», explique Toby Ord, chercheur principal en philosophie à l’université d’Oxford et voix prominente parmi les personnes qui mettent en garde contre le risque que l’IA pose une menace existentielle pour l’humanité. Le réglage chaotique de la direction d’OpenAI s’est terminé par un nouveau conseil d’administration composé de figures établies de la technologie et de l’ancien secrétaire américain au Trésor, Larry Summers. Deux directeurs associés au mouvement «altruisme efficace», les seules femmes, ont été écartés du conseil. Cela a cristallisé les divisions existantes sur la façon dont l’avenir de l’IA devrait être régi. Le résultat est perçu très différemment par les pessimistes qui craignent que l’IA ne détruise l’humanité; les transhumanistes qui pensent que la technologie hâtera un avenir utopique; ceux qui croient en un capitalisme de marché libre; et les défenseurs d’une réglementation stricte pour contenir les géants de la technologie qui ne peuvent être fiables pour équilibrer les potentiels méfaits d’une technologie perturbatrice puissamment disruptive avec le désir de gagner de l’argent. «Dans une certaine mesure, c’était une collision inévitable qui était prévue depuis longtemps», explique Ord, qui est également crédité du cofondateur du mouvement altruiste efficace, une partie duquel est devenue obsédée par le spectre de la fin de l’IA. «Si c’est le cas que le conseil de gouvernance à but non lucratif d’OpenAI était fondamentalement impuissant pour en affecter réellement le comportement, alors je pense que mettre en évidence qu’il était impuissant était probablement une bonne chose.»
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
