Le risque d’IA militarisée qui est plus grand que les « robots tueurs »

Les grandes nouvelles du sommet entre le président Joe Biden et le dirigeant chinois Xi Jinping concernent certainement les pandas. Dans vingt ans, si quelqu’un apprend quelque chose de cette réunion, ce sera probablement grâce à une plaque au zoo de San Diego. C’est-à-dire, s’il reste des personnes en vie pour visiter des zoos. Et si certains d’entre nous sont ici dans vingt ans, cela pourrait être à cause d’autre chose sur laquelle les deux dirigeants se sont mis d’accord : des discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post avait rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans plusieurs domaines, y compris le contrôle des armes nucléaires. Aucun accord de ce type n’a été conclu, et on ne s’attendait pas à ce qu’il en soit ainsi, mais les comptes rendus publiés par la Maison Blanche et le ministère des Affaires étrangères chinois mentionnaient la possibilité de discussions entre les États-Unis et la Chine sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que « nous allons réunir nos experts pour discuter des risques et des problèmes de sécurité liés à l’intelligence artificielle ». Les responsables américains et chinois n’ont pas donné beaucoup de détails sur les experts qui seraient impliqués ou sur les problèmes de sécurité qui seraient discutés. Bien sûr, il y a beaucoup de choses dont les deux parties pourraient discuter. Ces discussions pourraient porter sur le risque soi-disant « catastrophique » des systèmes d’IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet dans les films Terminator – jusqu’à l’utilisation de plus en plus courante des systèmes d’armes autonomes mortelles, que les militants appellent parfois les « robots tueurs ». Et puis il y a le scénario quelque part entre les deux : le potentiel de l’utilisation de l’IA pour décider d’utiliser des armes nucléaires, ordonner une frappe nucléaire et en exécuter une.