Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le dernier ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait beaucoup de bruit, bien plus que prévu. Cela en dépit du fait que cet ordre en lui-même ne fait pas grand-chose : il comporte quelques dispositions en matière de bonne gouvernance et de petits subventions, comme 2 millions de dollars pour un prix bonus de concours de fonds d’accélération de la croissance, mais surtout il prévoit la création de rapports. Malgré cette faible utilisation de la force, cet ordre s’est avéré surprenamment divisé dans le monde des tech. certains l’ont vivement loué. D’autres, dont beaucoup se désignent eux-mêmes comme des accélérationnistes ou des techno-optimistes, ont laissé entendre que cet ordre était en fait une interdiction des mathématiques et ont diffusé des memes de résistance inspirés de la Révolution américaine. Quelle est la raison de cette réaction absurde ? Un seul des nombreux rapports exigés dans le cadre du travail sur l’IA. L’ordre de Biden exige que ceux qui effectuent des runs d’entrainement en IA, beaucoup plus importants que ceux que nous avons effectués jusqu’à présent, doivent indiquer quelles mesures de sécurité ils prennent. Les centres de données gigantesques qui pourraient permettre de telles sessions d’entrainement doivent également faire des rapports sur les parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de reporting pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux qui se trouvent des deux côtés de la fissure dans le monde des tech voient les enjeux comme existentiels, ils s’inquiètent de menaces différentes. L’IA sera au centre de l’avenir. Elle deviendra progressivement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous pour un nombre croissant de tâches et peut-être, à terme, beaucoup plus intelligente que nous.