Le risque de l’IA militarisée est plus grand que celui des « robots tueurs ».

Les grandes nouvelles du sommet entre le président Joe Biden et le leader chinois Xi Jinping sont sans aucun doute les pandas. Dans vingt ans, si quelqu’un en apprend davantage sur cette réunion, ce sera probablement à partir d’une plaque au zoo de San Diego. C’est-à-dire s’il y a quelqu’un de vivant pour aller visiter les zoos. Et si certains d’entre nous sont toujours là dans 20 ans, c’est peut-être à cause d’autre chose que les deux dirigeants ont convenu de discuter – les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord visant à interdire l’utilisation de l’intelligence artificielle dans plusieurs domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – et on ne s’y attendait probablement pas – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de négociations américano-chinoises sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nos experts se réuniront pour discuter des risques et des problèmes de sécurité associés à l’intelligence artificielle». Les officiels américains et chinois n’ont pas donné de détails sur les experts qui seraient impliqués ou sur les risques et les problèmes de sécurité qui seraient discutés. Il y a, bien sûr, beaucoup de sujets dont les deux parties peuvent discuter. Ces discussions pourraient aller du risque «catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante d’armes automatiques autonomes, que les activistes appellent parfois «des robots tueurs». Et puis il y a le scénario quelque part entre les deux: la possibilité d’utiliser l’IA pour décider d’utiliser des armes nucléaires, ordonner une frappe nucléaire et en exécuter une.