Le risque de l’IA militarisée qui est plus important que les « robots tueurs »

Les grandes nouvelles du sommet entre le président Joe Biden et le dirigeant chinois Xi Jinping concernent certainement les pandas. Dans vingt ans, si quelqu’un apprend quoi que ce soit de cette réunion, ce sera probablement par une plaque au zoo de San Diego. Cela dit, s’il reste encore des gens en vie pour visiter des zoos. Et si certains d’entre nous sont encore là dans 20 ans, ça sera peut-être à cause d’autre chose sur lequel les deux dirigeants se sont mis d’accord : des discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord interdisant l’utilisation de l’intelligence artificielle dans différents domaines, y compris le contrôle des armes nucléaires. Aucun accord de ce genre n’a été conclu, ni même attendu, mais les communiqués publiés par la Maison Blanche et le ministère chinois des Affaires étrangères mentionnaient la possibilité de discussions entre les États-Unis et la Chine sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que « nous allons réunir nos experts pour discuter des risques et des questions de sécurité liés à l’intelligence artificielle ». Les responsables américains et chinois étaient peu bavards sur les détails concernant les experts qui participeraient ou les questions de risque et de sécurité qui seraient abordées. Il y a bien sûr beaucoup de sujets dont les deux parties peuvent discuter. Ces discussions pourraient porter sur le risque soi-disant « catastrophique » des systèmes d’IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – jusqu’à l’utilisation de plus en plus courante des systèmes d’armes autonomes létales, que certains militants appellent parfois des « robots tueurs ». Et puis il y a ce scénario quelque part entre les deux : le potentiel de l’utilisation de l’IA pour décider d’utiliser des armes nucléaires, ordonner une frappe nucléaire et en exécuter une.