Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait beaucoup plus de bruit que prévu. Cela est dû au fait que cet ordre ne fait en réalité que très peu de choses : il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour une prime de concours de fonds d’accélération de la croissance, mais surtout il appelle à la création de rapports. Malgré cet usage limité de la force, cet ordre s’est avéré surprenamment divisé dans le monde des technologies. certains l’ont vivement loué. D’autres, dont beaucoup se désignent comme accélérationnistes ou techno-optimistes, ont sous-entendu que cet ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la révolution américaine. Pourquoi une telle réaction absurde? Une exigence de rapportage pour le travail sur l’IA en particulier. L’ordre de Biden exige que ceux qui réalisent des runs d’apprentissage de l’IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, rapporter les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles sessions d’entraînement doivent également faire des rapports sur les parties étrangères auxquelles elles vendent des services. Tout le monde voit que ce seuil de rapportage pourrait devenir quelque chose de plus fort et de plus restrictif avec le temps. Mais alors que ceux des deux côtés de la fissure dans le secteur des technologies sur cet ordre voient les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra de plus en plus intelligente et capable au fil du temps, supérieure à ce que nous sommes les meilleurs dans un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.