Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a provoqué un énorme émoi, bien qu’il ne fasse en réalité que très peu de chose : il comporte quelques dispositions en matière de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de Fonds d’accélération de croissance, mais il exige surtout la production de rapports. Malgré cet usage limité de la force, cet ordre s’est avéré diviser de manière surprenante le monde de la technologie. Certains l’ont vivement salué, tandis que d’autres, nombreux parmi ceux qui se désignent comme accélérationnistes ou techno-optimistes, ont laissé entendre qu’il s’agissait en fait d’une interdiction des mathématiques et ont diffusé des memes inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Une exigence de rapportage pour le travail sur l’IA en particulier. L’ordre de Biden exige que ceux qui effectuent des runs d’entraînement en IA considérablement plus importants que ceux que nous avons effectués jusqu’à présent rapportent les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui permettraient de réaliser de tels runs d’entraînement ont également des obligations de rapportage et doivent indiquer aux parties étrangères qu’ils fournissent des services. Tout le monde voit que ce seuil de rapportage pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la division technologique sur cet ordre perçoivent les enjeux comme étant existentiels, ils craignent des menaces différentes. L’IA sera centrale pour l’avenir. Elle deviendra de plus en plus intelligente et capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, à terme, beaucoup plus intelligente que nous.