Le risque militarisé de l’IA est plus grand que les « robots tueurs »

La grande nouvelle du sommet entre le président Joe Biden et le leader chinois Xi Jinping est certainement les pandas. Dans vingt ans, si quelqu’un en apprend d’avantage sur cette rencontre, ce sera probablement à partir d’une plaque au zoo de San Diego. C’est-à-dire, s’il y a quelqu’un encore en vie pour visiter les zoos. Et, si certains d’entre nous sommes encore là dans 20 ans, cela pourrait être en raison d’un autre accord que les deux leaders ont conclu – des pourparlers sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans un certain nombre de domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – ni même attendu – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers entre les États-Unis et la Chine sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nous allons réunir nos experts pour discuter des risques et des problèmes de sécurité associés à l’intelligence artificielle». Les officiels américains et chinois n’ont pas donné de détails sur les experts qui seraient impliqués ou sur les risques et les problèmes de sécurité qui seraient discutés. Il y a, bien sûr, beaucoup de sujets à aborder entre les deux parties. Ces discussions pourraient aller du soi-disant «risque catastrophique» des systèmes d’IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante de systèmes d’armes autonomes létaux, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario quelque part entre les deux: la possibilité d’utiliser l’IA pour prendre la décision d’utiliser des armes nucléaires, d’ordonner un frappe nucléaire et de l’exécuter.