Le risque lié à l’IA militarisée est plus important que les « robots tueurs ».

Les grandes nouvelles du sommet entre le président Joe Biden et le leader chinois Xi Jinping sont certainement les pandas. Vingt ans plus tard, si quelqu’un apprend quoi que ce soit à ce sujet, ce sera probablement à partir d’une plaque au zoo de San Diego. C’est-à-dire, s’il reste quelqu’un de vivant pour aller visiter les zoos. Et, si certains d’entre nous sont encore là dans 20 ans, c’est peut-être à cause d’autre chose dont les deux dirigeants ont convenu – des discussions sur les risques croissants liés à l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord visant à interdire l’utilisation de l’intelligence artificielle dans plusieurs domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – ni n’était attendu – mais des comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de discussions américano-chinoises sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nous allons réunir nos experts pour discuter des risques et des problèmes de sécurité associés à l’intelligence artificielle». Les officiels américains et chinois ont été peu prolixes quant aux experts impliqués ou aux risques et problèmes de sécurité discutés. Il y a, bien sûr, beaucoup à discuter. Ces discussions pourraient aller du risque «catastrophique» des systèmes d’IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante de systèmes d’armes autonomes létaux, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario quelque part entre les deux: la possibilité d’utiliser l’IA pour décider d’utiliser des armes nucléaires, d’ordonner un frappe nucléaire et d’en exécuter une.