Nous sommes toujours en train de lutter pour notre survie en ce qui concerne la sécurité des IA.

Le dernier ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait grand bruit, bien qu’il ne fasse en réalité pas grand-chose. Il comporte quelques dispositions de bonne gouvernance et de petites subventions, comme 2 millions de dollars pour un bonus de concours de fonds d’accélération de la croissance, mais il se contente surtout de demander la production de rapports. Malgré cet emploi limité de la force, cet ordre s’est avéré surprenamment divisé dans le monde des techs. Certains l’ont chaleureusement approuvé. D’autres, dont beaucoup se disent accélérationnistes ou techno-optimistes, ont laissé entendre qu’il s’agissait en réalité d’une interdiction des mathématiques et ont partagé des memes de résistance inspirés de la Révolution américaine. Quelle est cette réaction absurde? Une exigence de rapport en particulier pour le travail sur l’IA. L’ordre de Biden exige que ceux qui effectuent des runs d’entraînement en IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, rapportent les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de tels runs d’entraînement ont également des obligations de notification et doivent indiquer les parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de notification pourrait devenir quelque chose de plus fort et de plus restrictif avec le temps. Mais alors que ceux des deux côtés de la fissure dans le secteur des techs sur l’ordre voient les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera centrale pour l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.