Nous sommes toujours en train de lutter pour assurer la sécurité de l’IA.

L’ordonnance exécutive récente du président Joe Biden sur l’intelligence artificielle a créé une agitation inattendue. Cela malgré le fait que l’ordonnance elle-même ne fait en réalité que très peu de choses : elle comprend quelques bonnes dispositions de gouvernance et de petites subventions, comme 2 millions de dollars pour un prix bonus dans le cadre du Concours du Fonds d’accélération de la croissance. Mais surtout, elle demande la création de rapports. Malgré cette utilisation parcimonieuse de la force, l’ordonnance s’est révélée étonnamment divisive dans le monde de la technologie. Certains l’ont ardemment saluée. D’autres, nombreux à se qualifier d’accélérationnistes ou de techno-optimistes, ont insinué que l’ordonnance équivalait à une interdiction des mathématiques et ont diffusé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Il y a notamment une exigence de rapport particulière pour le travail sur l’IA. L’ordonnance de Biden exige que ceux qui effectuent des entraînements en IA suffisamment importants, beaucoup plus importants que tout ce que nous avons réalisé jusqu’à présent, doivent rendre compte des précautions de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de tels entraînements ont également des obligations de déclaration et doivent rendre compte des parties étrangères à qui ils vendent leurs services. Tout le monde voit que ce seuil de déclaration pourrait devenir plus strict et restrictif avec le temps. Mais tandis que ceux des deux côtés de la fracture technologique perçoivent les enjeux comme étant existentiels, ils s’inquiètent de différentes menaces. L’IA sera au cœur de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure aux meilleurs d’entre nous dans un nombre croissant de tâches et peut-être, en fin de compte, beaucoup plus intelligente que nous.