Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a provoqué une réaction inattendue. Cela en dépit du fait que l’ordre en lui-même ne fait vraiment rien : il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour une prime de concours de Fonds d’accélération de la croissance, mais surtout il prévoit la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré surprenamment divisé dans le monde des technologies. certains ont vivement loué. D’autres, dont beaucoup se désignent eux-mêmes comme accélérationnistes ou techno-optimistes, ont fait valoir que l’ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la révolution américaine. Pourquoi une telle réaction absurde ? Une exigence de rapport en particulier. L’ordre de Biden exige que ceux qui effectuent des traitements d’apprentissage automatique suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, rapportent les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles traitements d’apprentissage ont également des obligations de rapport et doivent indiquer aux parties étrangères à qui elles vendent des services. Tout le monde voit que ce seuil de rapport pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais si les deux camps de la scission dans le monde des technologies voient les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous pour un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.