Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait beaucoup plus de bruit que prévu. Cela était malgré le fait que l’ordre en lui-même ne fasse vraiment que très peu de choses: il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de fonds d’accélérateur de croissance, mais il demande surtout la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré diviser de manière surprenante le monde de la technologie. certains l’ont vivement loué. D’autres, nombreux parmi ceux qui se désignent comme accélérationnistes ou technologiquement optimistes, ont laissé entendre que l’ordre était en fait une interdiction des mathématiques et ont diffusé des mèmes inspirés de la révolution américaine. Pourquoi une telle réaction absurde? Une exigence de déclaration particulièrement importante pour le travail sur l’IA. L’ordre de Biden exige que ceux qui effectuent des lancements d’apprentissage de l’IA suffisamment importants, bien plus importants que ceux que nous avons effectués jusqu’à présent, indiquent les mesures de sécurité qu’ils ont prises. Les centres de données gigantesques qui pourraient permettre de telles séances d’entraînement doivent également déclarer à quelles parties étrangères ils vendent des services. Tout le monde voit que ce seuil de déclaration pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais si les deux camps de la division en technologie sur l’ordre considèrent les enjeux comme existentiels, ils craignent des menaces différentes. L’IA sera centrale pour l’avenir. Elle deviendra de plus en plus intelligente et capable au fil du temps, supérieure à la meilleure d’entre nous pour un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.