« Nous sommes toujours en lutte pour la survie en ce qui concerne la sécurité de l’IA »

L’ordonnance exécutive récente du président Joe Biden sur l’intelligence artificielle a fait sensation de manière inattendue. Cela malgré le fait que l’ordonnance elle-même ne fasse en réalité pas grand-chose : elle comprend quelques bonnes dispositions en matière de gouvernance et de petites subventions, comme 2 millions de dollars pour un prix bonus dans le cadre du concours du Fonds d’accélération de la croissance, mais elle appelle principalement à la création de rapports. Malgré cette utilisation parcimonieuse de la force, l’ordonnance s’est révélée surprenamment divisée dans le monde de la technologie. Certains l’ont chaudement louée. D’autres, dont beaucoup se désignent comme des accélérationnistes ou des techno-optimistes, ont laissé entendre que l’ordonnance équivalait en fait à une interdiction des mathématiques et ont propagé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Une exigence de déclaration pour le travail en intelligence artificielle en particulier. L’ordonnance de Biden exige que ceux qui réalisent des entraînements en IA suffisamment importants, bien plus importants que tout ce que nous avons réalisé par le passé, déclarent les précautions de sécurité qu’ils prennent. Les centres de données géants qui pourraient permettre de tels entraînements ont également des obligations de déclaration et doivent rendre compte des services qu’ils vendent à des parties étrangères. Tout le monde voit que ce seuil de déclaration pourrait devenir plus strict et restrictif avec le temps. Mais tandis que les partisans et les opposants de l’ordonnance dans le secteur de la technologie considèrent les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre du futur. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à nous dans un nombre croissant de tâches et peut-être, à terme, bien plus intelligente que nous.

Share the Post: