Nous sommes toujours en lutte pour la survie en ce qui concerne la sécurité de l’IA.

Le récent décret exécutif du président Joe Biden sur l’intelligence artificielle a eu un impact inattendu. Ceci malgré le fait que le décret lui-même fait en réalité très peu de choses : il contient quelques dispositions de bonne gouvernance et de petites subventions, comme 2 millions de dollars pour un prix bonus du concours du Fonds d’accélération de la croissance, mais il appelle principalement à la création de rapports. Malgré cette utilisation parcimonieuse de la force, le décret s’est révélé surprenamment diviseur dans le monde de la technologie. Certains l’ont ardemment loué. D’autres, dont beaucoup se qualifient d’accélérationnistes ou de techno-optimistes, ont laissé entendre que le décret était effectivement une interdiction des mathématiques et ont propagé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Une exigence de reporting pour le travail de l’IA en particulier. Le décret de Biden exige que ceux qui effectuent des entraînements suffisamment importants en IA, beaucoup plus importants que tout ce que nous avons fait dans le passé, doivent rapporter les précautions de sécurité qu’ils prennent. Les gigantesques centres de données qui pourraient permettre de tels entraînements ont également des obligations de déclaration et doivent rapporter à quelles parties étrangères elles vendent des services. Tout le monde voit que ce seuil de déclaration pourrait devenir quelque chose de plus fort et plus restrictif avec le temps. Mais alors que ceux des deux côtés de la division dans le domaine de la technologie voient les enjeux comme étant existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra de plus en plus intelligente et capable avec le temps, supérieure au meilleur d’entre nous dans un nombre croissant de tâches et peut-être, en fin de compte, beaucoup plus intelligente que nous.