« Nous sommes toujours en lice pour la survie en ce qui concerne la sécurité de l’IA. »

L’ordonnance exécutive récente du président Joe Biden sur l’intelligence artificielle a suscité une attention inattendue. Cela malgré le fait que l’ordonnance elle-même ne fait en réalité pas grand-chose : elle contient quelques bonnes dispositions de gouvernance et de petites subventions, comme 2 millions de dollars pour un prix bonus dans le cadre d’un concours du Fonds d’accélération de la croissance. Mais il appelle surtout à la rédaction de rapports. Malgré cette utilisation mesurée de la force, l’ordonnance s’est révélée étonnamment divisée dans le monde de la technologie. Certains l’ont vivement saluée. D’autres, dont beaucoup se qualifient d’accélérationnistes ou de techno-optimistes, ont laissé entendre que l’ordonnance équivalait en réalité à une interdiction des mathématiques et ont diffusé des mèmes de résistance inspirés de la Révolution américaine. Pourquoi cette réaction absurde ? Une exigence particulière en matière de déclaration pour le travail sur l’IA. L’ordonnance de Biden exige que ceux qui réalisent des entraînements en IA suffisamment importants, bien plus importants que tout ce que nous avons déjà réalisé, déclarent les mesures de sécurité qu’ils prennent. Les centres de données géants qui pourraient permettre de tels entraînements ont également des obligations de déclaration et doivent préciser à quels pays étrangers ils vendent leurs services. Tout le monde voit que ce seuil de déclaration pourrait devenir plus fort et plus restrictif avec le temps. Mais tandis que ceux des deux côtés du clivage dans le domaine de la technologie voient les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera au cœur de l’avenir. Elle deviendra progressivement plus intelligente et plus capable, supérieure aux meilleurs d’entre nous dans un nombre croissant de tâches et peut-être, finalement, beaucoup plus intelligente que nous.