Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a provoqué une réaction beaucoup plus vive que prévu. Cela était dû au fait que cet ordre en lui-même ne faisait en réalité que très peu de choses : il contenait quelques dispositions sur la bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de fonds d’accélération de la croissance, mais surtout il appelait à la création de rapports. Malgré cet usage limité de la force, cet ordre s’est avéré surprenamment divisé dans le monde des tech. certains l’ont vivement loué. D’autres, dont beaucoup se désignent eux-mêmes comme accélérationnistes ou techno-optimistes, ont sous-entendu que cet ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Une exigence de rapportage pour le travail sur l’IA en particulier. L’ordre de Biden exige que ceux qui font des calculs d’entraînement en IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, doivent indiquer quelles mesures de sécurité ils prennent. Les centres de données gigantesques qui pourraient permettre de telles séances d’entraînement doivent également rendre des comptes sur les parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de rapportage pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la fracture dans le monde des tech sur cet ordre considèrent les enjeux comme existentiels, ils s’inquiètent de différentes menace. L’IA sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous sur un nombre croissant de tâches et peut-être, à long terme, beaucoup plus intelligente que nous.