Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait beaucoup plus de bruit que prévu. Cela était malgré le fait que l’ordre en lui-même ne fasse en réalité pas grand-chose : il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un bonus de concours de fonds d’accélération de la croissance, mais surtout il prévoit la création de rapports. Malgré cet usage limité de la force, l’ordonnance s’est avérée surprenamment divisée dans le monde des technologies. certains l’ont vivement salué. D’autres, dont beaucoup se désignent eux-mêmes comme accélérationnistes ou techno-optimistes, ont laissé entendre que l’ordonnance était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Une exigence de rapportage pour le travail sur l’IA en particulier. L’ordonnance de Biden exige que ceux qui effectuent des runs d’entraînement IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, signalent les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles sessions d’entraînement ont également des obligations de rapportage et doivent signaler les parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de rapportage pourrait devenir quelque chose de plus fort et de plus restrictif avec le temps. Mais alors que ceux des deux côtés de la fissure dans le secteur des technologies sur l’ordonnance considèrent les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, ultimement, beaucoup plus intelligente que nous.