Nous sommes toujours en lutte pour notre survie en ce qui concerne la sécurité des IA.

Le dernier ordre exécutif du président Joe Biden sur l’intelligence artificielle a fait plus de bruit que prévu. Cela était malgré le fait que l’ordre en lui-même ne fasse pas grand-chose : il contient quelques bonnes dispositions en matière de gouvernance et de petits subventions, comme 2 millions de dollars pour une prime de concours de fonds d’accélération de la croissance, mais surtout il appelle à la création de rapports. Malgré cet usage limité de la force, l’ordre s’est avéré surprenamment divisé dans le monde des tech. certains l’ont vivement approuvé. D’autres, dont beaucoup se disent accélérationnistes ou techno-optimistes, ont sous-entendu que l’ordre était en fait une interdiction des mathématiques et ont répandu des memes de résistance inspirés de la révolution américaine. Pourquoi une telle réaction absurde ? Une exigence de rapportage en particulier. L’ordre de Biden exige que ceux qui effectuent des runs d’entraînement en IA suffisamment importants, beaucoup plus importants que ceux que nous avons effectués par le passé, rendent compte des mesures de sécurité qu’ils prennent. Les centres de données gigantesques qui pourraient permettre de telles sessions d’entraînement ont également des obligations de rapportage et doivent rendre compte des parties étrangères à qui ils vendent des services. Tout le monde voit que ce seuil de reporting pourrait devenir quelque chose de plus fort et de plus restrictif au fil du temps. Mais alors que ceux des deux côtés de la fissure dans le secteur des tech sur l’ordre considèrent les enjeux comme existentiels, ils s’inquiètent de différentes menaces. L’IA sera centrale pour l’avenir. Elle deviendra graduellement plus intelligente et plus capable au fil du temps, supérieure à la meilleure d’entre nous à un nombre croissant de tâches et, peut-être, finalement, beaucoup plus intelligente que nous.