Les États-Unis, le Royaume-Uni, le Japon et d’autres grandes puissances signent un accord de sécurité AI.

Vingt-deux agences de maintien de l’ordre et d’intelligence de 18 pays différents ont signé un accord international sur la sécurité des IA ce week-end, destiné à rendre les nouvelles versions de cette technologie « sûres par conception ». Cet accord intervient quelques mois après que l’Union européenne ait signé son acte EU AI en juin, interdisant certaines technologies d’IA, notamment la surveillance biométrique et la prédiction de la criminalité, et classant les systèmes d’IA susceptibles d’avoir un impact significatif sur la santé, la sécurité, les droits ou les élections comme étant à haut risque. « Les systèmes d’IA ont le potentiel d’apporter de nombreux avantages à la société. Cependant, pour que les opportunités offertes par l’IA puissent être pleinement réalisées, elle doit être développée, déployée et exploitée de manière sûre et responsable », a déclaré le dernier accord. L’accord a souligné que, compte tenu du rythme de développement rapide de l’IA, la sécurité ne doit pas être une afterthought mais plutôt une exigence fondamentale intégrée tout au long du cycle de vie des systèmes d’IA. « Les systèmes d’IA sont exposés à de nouvelles vulnérabilités de sécurité qui doivent être prises en compte en même temps que les menaces classiques de cybersécurité », a déclaré le rapport. « Lorsque le rythme de développement est élevé – comme c’est le cas avec l’IA -, la sécurité peut souvent être une considération secondaire. »