« Nous sommes toujours en lutte pour la survie en ce qui concerne la sécurité de l’IA. »

L’ordonnance récente du Président Joe Biden sur l’intelligence artificielle a fait sensation de manière inattendue. Cela malgré le fait que l’ordonnance elle-même ne fasse en réalité que très peu : elle comporte quelques dispositions relatives à la bonne gouvernance et de petites subventions, telles que 2 millions de dollars pour un prix bonus de concours du Fonds d’accélération de la croissance, mais elle appelle principalement à la création de rapports. Malgré cette utilisation parcimonieuse de la force, l’ordonnance s’est révélée étonnamment divisée dans le monde de la technologie. Certains l’ont ardemment saluée. D’autres, nombreux parmi ceux qui se décrivent comme des accélérationnistes ou des techno-optimistes, ont sous-entendu que l’ordonnance équivaut en réalité à une interdiction des mathématiques et ont propagé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi une réaction aussi absurde ? Notamment en raison d’une exigence de déclaration concernant les travaux sur l’IA. L’ordonnance de Biden exige que ceux qui réalisent des séances d’entraînement à l’IA suffisamment importantes, beaucoup plus grandes que celles que nous avons réalisées par le passé, déclarent les précautions de sécurité qu’ils prennent. Les centres de données géants qui pourraient permettre de telles séances d’entraînement ont également des obligations de déclaration et doivent signaler les services vendus à des parties étrangères. Tout le monde voit que ce seuil de déclaration pourrait devenir quelque chose de plus fort et de plus restrictif avec le temps. Cependant, alors que ceux des deux côtés de la fracture dans le domaine de la technologie voient les enjeux comme étant existentiels, ils s’inquiètent de menaces différentes. L’IA sera centrale dans le futur. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure aux meilleurs d’entre nous dans un nombre croissant de tâches et peut-être, en fin de compte, bien plus intelligente que nous.