Rishi Sunak : Les entreprises de l’IA ne peuvent pas « se corriger elles-mêmes »

La surveillance des risques posés par l’intelligence artificielle (IA) est trop importante pour être laissée aux grandes entreprises de technologie, a déclaré le premier ministre Rishi Sunak. Il a déclaré à la BBC que les gouvernements devaient agir et que les entreprises d’IA ne pouvaient pas être laissées à « se corriger elles-mêmes ». Il s’exprimait à l’approche du Sommet sur la sécurité de l’IA, où une déclaration mondiale sur la gestion des risques liés à l’IA a été annoncée. Charles, roi des délégués, a déclaré que le problème nécessitait « une urgence, une unité et une force collective ». Cela intervient alors que les inquiétudes augmentent quant aux formes très avancées d’IA aux capacités encore inconnues. Jusqu’à présent, les pays ne font que commencer à s’attaquer aux risques potentiels, qui peuvent inclure des violations de la vie privée, des attaques informatiques et le remplacement des emplois. Dans une interview avec la BBC à Downing Street, M. Sunak a déclaré que l’IA était une « technologie transformative » qui pourrait avoir de enormes bienfaits dans le NHS ou dans les écoles. Mais il a ajouté qu’il voulait que le Royaume-Uni et d’autres pays soient en mesure de « faire les tests nécessaires pour nous assurer que nous protégeons nos citoyens et tout le monde à la maison ». « Il doit y avoir des gouvernements ou des personnes extérieures qui effectuent ce travail », a-t-il déclaré. S’adressant à Zoe Kleinman, l’éditeur en chef de la technologie de la BBC, il a déclaré que de nombreuses entreprises d’IA avaient déjà donné au Royaume-Uni un accès à leurs modèles avant leur publication. Et il a affirmé que le Royaume-Uni « investissait plus » dans la gestion des risques liés à l’IA que tout autre pays. « Nous avons déjà investi 100 millions de livres sterling dans notre groupe de travail, qui deviendra notre Institut de sécurité », a-t-il déclaré. « Et nous attirons les meilleurs chercheurs du monde entier pour venir travailler dans cet établissement. » Environ 100 dirigeants mondiaux, dirigeants de l’industrie technologique et universitaires se réunissent actuellement au premier sommet sur la sécurité de l’IA du Royaume-Uni à Bletchley Park, dans le Buckinghamshire. Plus tôt, mercredi, les délégués ont convenu de la première « déclaration internationale » jamais signée sur ce qu’on appelle l’IA de pointe, le terme employé par le gouvernement pour désigner l’IA qui pourrait dépasser les capacités des systèmes les plus avancés d’aujourd’hui. La déclaration de Bletchley appelle à une coopération mondiale pour faire face aux risques, qui comprennent des violations potentielles de la vie privée et le remplacement des emplois. Signée par 28 pays et l’Union européenne, elle stipule également que l’IA doit être « sûre, de manière à être centrée sur l’être humain, digne de confiance et responsable ». Caitlin Bentley, chercheuse en éducation en IA à King’s College London, a déclaré que la déclaration était « une étape importante » dans la promotion du « développement responsable » de l’IA. Cependant, elle a déclaré qu’il fallait davantage d’investissements dans l’éducation en IA pour s’assurer que « l’IA soit non seulement responsable, mais équitable dans ses effets » et que les bienfaits soient ressentis par tous. Dans son interview avec la BBC, le Premier ministre a défendu une discussion prévue avec le controversé milliardaire de la technologie Elon Musk jeudi soir, affirmant qu’il pouvait apporter « quelque chose de précieux à la conversation ». « Elon Musk est depuis longtemps un investisseur et un développeur de technologies d’IA », a déclaré M. Sunak. « Depuis plus de 10 ans, il parle également des risques potentiels qu’elles posent et du besoin pour les pays et les entreprises de travailler ensemble pour gérer et atténuer ces risques. » M. Musk est arrivé au sommet mercredi matin, après avoir averti la veille que l’IA pourrait mener à l’extinction de l’humanité. Mais de nombreux experts considèrent que des avertissements de ce type sont exagérés. « Nous avons ici des représentants de toutes les grandes entreprises d’IA », a déclaré M. Sunak. « Et c’est crucial, car les pays devront travailler avec les entreprises qui développent la technologie. » Ceux qui apparaissent au sommet discutent de la meilleure façon de maximiser les avantages de l’IA, tels que la découverte de nouveaux médicaments et la lutte contre le changement climatique, tout en minimisant les risques. Les priorités du sommet incluent la menace de la bioterrorisme et