Le risque militarisé de l’IA est plus important que les «robots tueurs»

Les grands titres du sommet entre le président Joe Biden et le leader chinois Xi Jinping concernent certainement les pandas. Dans vingt ans, si quelqu’un en apprend quelque chose, ce sera probablement grâce à une plaque au zoo de San Diego. C’est-à-dire, si quelqu’un est encore en vie pour visiter les zoos. Et si certains d’entre nous sont toujours là dans vingt ans, c’est peut-être à cause d’autre chose sur quoi les deux leaders sont d’accord – des discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord pour interdire l’utilisation de l’intelligence artificielle dans plusieurs domaines, y compris le contrôle des armes nucléaires. Aucun accord n’a été conclu – ni même attendu – mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers entre les États-Unis et la Chine sur l’IA. Après le sommet, dans ses remarques à la presse, Biden a expliqué que «nos experts se réuniront pour discuter des risques et des questions de sécurité liés à l’intelligence artificielle». Les responsables américains et chinois n’ont pas fourni de détails sur les experts impliqués ou sur les risques et les questions de sécurité qui seraient discutés. Il y a bien sûr beaucoup à discuter entre les deux parties. Ces discussions pourraient aller du risque «catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet dans les films Terminator – à l’utilisation de plus en plus courante de systèmes d’armes autonomes létaux, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario entre les deux: la potentielle utilisation de l’IA pour prendre la décision d’utiliser des armes nucléaires, d’ordonner un frappe nucléaire et d’en exécuter une.