Le risque d’IA militarisée qui dépasse les « robots tueurs »

Les grandes nouvelles du sommet entre le président Joe Biden et le leader chinois Xi Jinping sont clairement les pandas. Dans vingt ans, si quelqu’un en apprend davantage sur cette réunion, ce sera probablement grâce à une plaque au zoo de San Diego. C’est-à-dire, s’il y a encore quelqu’un en vie pour aller au zoo. Et si certains d’entre nous sommes toujours là dans 20 ans, c’est peut-être en raison d’un autre point sur lequel les deux leaders sont d’accord – les discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans plusieurs domaines, notamment la gestion des armes nucléaires. Aucun tel accord n’a été conclu – ni même attendu – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers entre les États-Unis et la Chine sur l’IA. Après le sommet, dans ses remarques aux journalistes, Biden a expliqué que «nous allons réunir nos experts pour discuter des risques et des problèmes de sécurité liés à l’intelligence artificielle». Les responsables américains et chinois ont été peu loquaces sur les experts impliqués ou sur les risques et les problèmes de sécurité qui seraient discutés. Il y a bien sûr beaucoup à discuter. Ces discussions pourraient aller du soi-disant «risque catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante d’armes autonomes létales, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario entre les deux: la potentielle utilisation de l’IA dans la décision d’utiliser des armes nucléaires, de donner l’ordre de frappe nucléaire et de l’exécuter.