Le risque de l’IA militarisée est plus grand que les « robots tueurs »

Les grandes nouvelles du sommet entre le président Joe Biden et le leader chinois Xi Jinping sont clairement les pandas. Vingt ans plus tard, si quelqu’un apprend quoi que ce soit à ce sujet, ce sera probablement grâce à une plaque au zoo de San Diego. C’est-à-dire, s’il reste quelqu’un en vie pour aller dans les zoos. Et si certains d’entre nous sont encore là dans 20 ans, c’est peut-être à cause de quelque chose d’autre dont les deux dirigeants ont convenu – des discussions sur les risques croissants liés à l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans divers domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – et on ne s’y attendait pas non plus – mais des comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers américano-chinois sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nos experts se réuniront pour discuter des risques et des questions de sécurité liés à l’intelligence artificielle». Les responsables américains et chinois n’ont fourni aucun détail sur les experts qui seraient impliqués ou sur les risques et les questions de sécurité qui seraient abordés. Il y a bien sûr beaucoup à discuter. Ces discussions pourraient aller du risque «catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante de systèmes d’armes autonomes létaux, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario entre les deux: la potentielle utilisation de l’IA pour décider d’utiliser des armes nucléaires, ordonner un frappe nucléaire et en exécuter une.