« Nous sommes toujours en lutte pour la survie en ce qui concerne la sécurité de l’IA. »

L’ordonnance récente du président Joe Biden sur l’intelligence artificielle a fait une vague inattendue. Cela malgré le fait que l’ordonnance elle-même ne fasse pas grand-chose : elle comprend quelques bonnes dispositions en matière de gouvernance et de petites subventions, comme 2 millions de dollars pour un concours de bonus du Fonds d’accélération de croissance, mais elle appelle principalement à la création de rapports. Malgré cette utilisation mesurée de la force, l’ordonnance s’est révélée étonnamment divisive dans le monde de la technologie. Certains l’ont ardemment louée. D’autres, dont beaucoup se font appeler accélérationnistes ou techno-optimistes, ont laissé entendre que l’ordonnance était en réalité une interdiction des mathématiques et ont propagé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Une exigence de rapport pour un travail sur l’IA en particulier. L’ordonnance de Biden exige que ceux qui effectuent des parcours de formation en IA suffisamment importants, beaucoup plus importants que tout ce que nous avons fait par le passé, signalent les précautions de sécurité qu’ils prennent. Les centres de données géants qui pourraient permettre de tels parcours de formation ont également des obligations de rapport et doivent signaler les parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de rapport pourrait devenir plus contraignant avec le temps. Mais tandis que ceux des deux côtés de la fracture technologique en ce qui concerne l’ordonnance considèrent les enjeux comme existentiels, ils se préoccupent de différentes menaces. L’IA sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable, supérieure à nous dans un nombre croissant de tâches et peut-être, finalement, bien plus intelligente que nous.