Le risque de l’IA militarisée est plus important que les « robots tueurs ».

Les grands titres de la conférence entre le président américain Joe Biden et le dirigeant chinois Xi Jinping concernent sans aucun doute les pandas. Dans vingt ans, si quiconque en apprend d’avantage sur cette réunion, ce sera probablement grâce à une plaque au zoo de San Diego. C’est-à-dire, si quelqu’un est encore en vie pour visiter les zoos. Et si certains d’entre nous sont toujours en vie dans vingt ans, c’est peut-être à cause d’un autre accord que les deux dirigeants ont conclu – les pourparlers sur les risques croissants de l’intelligence artificielle. Avant la conférence, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord interdisant l’utilisation de l’intelligence artificielle dans plusieurs domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – et on ne s’attendait pas à ce qu’il le soit – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers bilatéraux États-Unis-Chine sur l’IA. Après la conférence, dans ses remarques aux journalistes, Biden a expliqué que «nos experts se réuniront pour discuter des risques et des problèmes de sécurité associés à l’intelligence artificielle». Les officiels américains et chinois n’ont pas donné de détails sur les experts impliqués ou sur les risques et problèmes de sécurité qui seraient discutés. Il y a bien sûr beaucoup à discuter. Ces discussions pourraient aller du risque soi-disant «catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet dans les films Terminator – à l’utilisation de plus en plus courante d’armes autonomes létales, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario quelque part entre les deux: la potentielle utilisation de l’IA pour décider d’utiliser des armes nucléaires, ordonner une frappe nucléaire et en exécuter une.