Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait plus de bruit que prévu. Cela était malgré le fait que l’ordre lui-même ne fasse effectivement que très peu de chose : il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de fonds d’accélération de la croissance, mais surtout il appelle à la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré surprenamment divisé dans le monde des technologies. certains l’ont vivement loué. D’autres, dont beaucoup se désignent comme accélérationnistes ou techno-optimistes, ont implicitement fait valoir que l’ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Une exigence de rapportage pour le travail sur l’IA en particulier. L’ordre de Biden exige que ceux qui effectuent des itérations d’apprentissage de l’IA suffisamment importantes, beaucoup plus importantes que celles que nous avons effectuées jusqu’à présent, rendent compte des mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles itérations d’apprentissage ont également des obligations de déclaration et doivent indiquer aux parties étrangères à qui elles vendent des services. Tout le monde voit que ce seuil de déclaration pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la fracture dans le monde des technologies sur l’ordre considèrent les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra de plus en plus intelligente et capable au fil du temps, supérieure à la meilleure d’entre nous sur un nombre croissant de tâches et peut-être, ultimement, beaucoup plus intelligente que nous.