Le risque de l’intelligence artificielle militarisée est plus important que les « robots tueurs ».

La grosse nouvelle du sommet entre le président Joe Biden et le leader chinois Xi Jinping est sans aucun doute les pandas. Dans vingt ans, si quelqu’un apprend quoi que ce soit à propos de cette réunion, ce sera probablement à partir d’une plaque au zoo de San Diego. C’est-à-dire, s’il y a encore quelqu’un en vie pour aller aux zoos. Et si certains d’entre nous sont toujours là dans vingt ans, c’est peut-être à cause d’autre chose que les deux dirigeants ont convenu – des discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans un certain nombre de domaines, y compris le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – et on ne s’attendait pas à ce qu’il y en ait un – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers États-Unis-Chine sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nos experts se réuniront pour discuter des risques et des problèmes de sécurité associés à l’intelligence artificielle». Les responsables américains et chinois ont été avares de détails sur les experts qui seraient impliqués ou sur les risques et problèmes de sécurité qui seraient discutés. Il y a, bien sûr, beaucoup de sujets dont les deux parties peuvent discuter. Ces discussions pourraient aller du soi-disant «risque catastrophique» des systèmes d’IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante de systèmes d’armes autonomes létaux, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario quelque part entre les deux: la potentielle utilisation de l’IA pour décider d’utiliser des armes nucléaires, ordonner un lancement nucléaire et en exécuter un.