Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait une grande splash inattendue. Ceci est malgré le fait que l’ordre lui-même ne fait en réalité très peu: il a quelques bonnes dispositions de gouvernance et de petits subventions, comme 2 millions de dollars pour une prime de concours de fonds de catalyseur de croissance, mais il appelle surtout à la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré surprenamment divisé dans le monde des tech. certains l’ont vivement loué. D’autres, dont beaucoup se désignent eux-mêmes comme accélérationnistes ou techno-optimistes, ont laissé entendre que l’ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la Révolution américaine. Pourquoi une réaction aussi absurde? Un seul des nombreux rapports requis pour les travaux en intelligence artificielle en particulier. L’ordre de Biden exige que ceux qui effectuent des runs de formation en intelligence artificielle suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, doivent indiquer les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles formations doivent également faire des rapports sur les parties étrangères auxquelles ils vendent leurs services. Tout le monde voit que ce seuil de signalement pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la fissure dans le monde des tech sur l’ordre voient les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’intelligence artificielle sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.