Le risque de l’IA militarisée est plus important que les « robots tueurs ».

Les grandes nouvelles du sommet entre le président Joe Biden et le leader chinois Xi Jinping sont sans aucun doute les pandas. Dans vingt ans, si quelqu’un apprend quoi que ce soit à ce sujet, ce sera probablement à partir d’une plaque au zoo de San Diego. C’est-à-dire, s’il y a encore quelqu’un en vie pour visiter les zoos. Et si certains d’entre nous sont toujours là dans 20 ans, cela pourrait être à cause de quelque chose d’autre dont les deux dirigeants ont convenu – des discussions sur les risques croissants de l’intelligence artificielle. Avant le sommet, le South China Morning Post a rapporté que Biden et Xi annonceraient un accord visant à interdire l’utilisation de l’intelligence artificielle dans un certain nombre de domaines, notamment le contrôle des armes nucléaires. Aucun tel accord n’a été conclu – et on ne s’attendait pas à ce qu’il le soit -, mais les comptes rendus publiés par la Maison Blanche et le ministère chinois des Affaires étrangères ont mentionné la possibilité de pourparlers américano-chinois sur l’IA. Après le sommet, dans ses remarques aux journalistes, Biden a expliqué que «nous allons réunir nos experts pour discuter des questions de risque et de sécurité associées à l’intelligence artificielle». Les responsables américains et chinois ont été peu prolixes quant aux experts qui seraient impliqués ou aux questions de risque et de sécurité qui seraient discutées. Il y a, bien sûr, beaucoup à discuter. Ces discussions pourraient aller du soi-disant «risque catastrophique» des systèmes IA qui ne sont pas alignés sur les valeurs humaines – pensez à Skynet des films Terminator – à l’utilisation de plus en plus courante d’armes autonomes létales, que les activistes appellent parfois «robots tueurs». Et puis il y a le scénario entre les deux: la potentielle utilisation de l’IA dans la décision d’utiliser des armes nucléaires, d’ordonner une frappe nucléaire et d’en exécuter une.