Le nouveau patron d’Open AI est le même que l’ancien patron. Mais l’entreprise et l’industrie de l’intelligence artificielle ont peut-être été profondément transformées par les cinq derniers jours de télénovela à enjeux élevés. Sam Altman, PDG, cofondateur et figure de proue d’OpenAI, a été évincé par le conseil d’administration vendredi. Mardi soir, après une protestation massive de la majorité du personnel de la startup, Altman était sur le point de revenir, et la plupart des membres du conseil existant étaient partis. Mais ce conseil, pour la plupart indépendant des opérations d’OpenAI, lié à une déclaration de mission «pour le bien de l’humanité», était essentiel à l’unicité de l’entreprise. En 2023, alors qu’Altman faisait le tour du monde pour avertir les médias et les gouvernements des dangers existentiels de la technologie qu’il construisait lui-même, il a présenté la structure inhabituelle à but lucratif d’OpenAI au sein d’une organisation à but non lucratif comme un frein contre le développement irresponsable d’une IA puissante. Quoi qu’Altman fasse avec les milliards de Microsoft, le conseil pouvait le contrôler et contrôler les autres dirigeants de l’entreprise. Si, selon l’avis du conseil, il commençait à agir dangereusement ou à l’encontre des intérêts de l’humanité, ce dernier pouvait le rejeter. «Le conseil peut me renvoyer, je pense que c’est important», a déclaré Altman à Bloomberg en juin. «Il s’avère qu’ils ne pouvaient pas me renvoyer, et c’était mauvais», déclare Toby Ord, chercheur principal en philosophie à l’université d’Oxford et une voix importante parmi les personnes qui mettent en garde contre le risque que l’IA pose une menace existentielle pour l’humanité. Le rétablissement chaotique de la direction d’OpenAI s’est terminé par un remaniement du conseil d’administration pour qu’il soit composé de figures établies de la technologie et de l’ancien secrétaire américain du Trésor, Larry Summers. Deux directeurs associés au mouvement «l’altruisme efficace», les seules femmes, ont été écartés du conseil. Cela a cristallisé les divisions existantes sur la façon dont l’avenir de l’IA devrait être géré. Les résultats sont perçus très différemment par les défaitistes qui craignent que l’IA ne détruise l’humanité; les transhumanistes qui pensent que la technologie hâtera un avenir utopique; ceux qui croient en un capitalisme de marché libre; et les partisans d’une réglementation serrée pour contenir les géants de la technologie qui ne peuvent pas être fiables pour équilibrer les potentiels méfaits d’une technologie disruptive puissante avec le désir de faire de l’argent. «Dans une certaine mesure, cela faisait partie d’un conflit qui était programmé depuis longtemps», déclare Ord, qui est également crédité de la cofondation du mouvement de l’altruisme efficace, dont une partie est devenue obsédée par l’extrémité sombre de l’éventail du risque de l’IA. «Si c’est le cas, le conseil d’administration à but non lucratif d’OpenAI étant fondamentalement impuissant à réellement affecter son comportement, je pense que le fait d’exposer qu’il était impuissant était probablement une bonne chose.»
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
