Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA

Le récent ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait beaucoup plus de bruit que prévu. Cela en dépit du fait que l’ordre en lui-même ne fait pas grand-chose : il comporte quelques dispositions de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de fonds d’accélération de la croissance, mais surtout il appelle à la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré surprenamment divisé dans le monde des tech. certains l’ont vivement salué. D’autres, dont beaucoup se désignent eux-mêmes comme des accélérationnistes ou des techno-optimistes, ont laissé entendre que l’ordre était en fait une interdiction des mathématiques et ont répandu des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Une exigence de notification particulièrement importante pour le travail sur l’IA. L’ordre de Biden exige que ceux qui effectuent des runs d’apprentissage de l’IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, notifient les mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles sessions d’entraînement ont également des obligations de notification et doivent indiquer les parties étrangères à qui elles vendent des services. Tout le monde voit que ce seuil de notification pourrait devenir quelque chose de plus fort et de plus restrictif avec le temps. Mais si les deux camps du clivage dans le monde des tech sur l’ordre voient les enjeux comme existentiels, ils craignent des menaces différentes. L’IA sera centrale pour l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et peut-être, à terme, beaucoup plus intelligente que nous.