Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait une splash beaucoup plus grande que prévu. Cela était malgré le fait que l’ordre en lui-même ne fait en réalité très peu : il contient quelques dispositions sur la bonne gouvernance et de petits subventions, comme 2 millions de dollars pour une prime de concours de fonds d’accélération de la croissance, mais surtout il appelle à la création de rapports. Malgré cet usage économe de la force, l’ordre s’est avéré surprenamment divisé dans le monde de la technologie. Certains l’ont vivement loué. D’autres, dont beaucoup se désignent comme accélérationnistes ou techno-optimistes, ont laissé entendre que l’ordre était en fait une interdiction des mathématiques et ont fait circuler des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Un seul des nombreux requis de rapportage pour le travail sur l’IA. L’ordre de Biden exige que ceux qui effectuent des runs de formation IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, doivent indiquer quelles mesures de sécurité ils prennent. Les gigantesques centres de données qui pourraient permettre de telles sessions de formation doivent également fournir des rapports sur les parties étrangères à qui ils vendent leurs services. Tout le monde voit que ce seuil de rapportage pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la fissure dans le monde de la technologie sur l’ordre perçoivent les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera centrale pour l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.