« Nous sommes toujours en lutte pour la survie en ce qui concerne la sécurité de l’IA. »

L’ordonnance récente du président Joe Biden sur l’intelligence artificielle a créé une véritable agitation. Cela malgré le fait que l’ordonnance elle-même ait en réalité un impact très limité : elle comporte quelques dispositions sur la gouvernance et de petites subventions, comme 2 millions de dollars pour un prix bonus du concours du Fonds d’accélération de la croissance. Mais elle appelle principalement à la création de rapports. Malgré cette utilisation parcimonieuse de la force, l’ordonnance s’est révélée étonnamment divisante dans le monde de la technologie. Certains l’ont vivement saluée. D’autres, dont beaucoup se considèrent comme des accélérationnistes ou des techno-optimistes, ont laissé entendre que l’ordonnance était en réalité une interdiction des mathématiques et ont propagé des mèmes résistants inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Il y a notamment une exigence de rapport pour le travail sur l’IA. L’ordonnance de Biden exige que ceux qui effectuent des travaux de formation sur l’IA suffisamment importants, bien plus grands que tout ce que nous avons fait dans le passé, signalent les précautions de sécurité qu’ils prennent. Les centres de données géants qui pourraient permettre de tels entraînements ont aussi des obligations de déclaration et doivent signaler à quels acteurs étrangers ils fournissent des services. Tout le monde voit que ce seuil de déclaration pourrait devenir de plus en plus restrictif avec le temps. Cependant, bien que les personnes des deux côtés de la scission dans le domaine de la technologie considèrent les enjeux comme existentiels, elles s’inquiètent de menaces différentes. L’IA sera au centre du futur. Elle deviendra progressivement plus intelligente et plus capable, supérieure aux meilleurs d’entre nous dans un nombre croissant de tâches et peut-être, en fin de compte, bien plus intelligente que nous.