Le plan américain de sécurité en matière d’IA rencontre des difficultés budgétaires

Le plan du président américain Joe Biden pour contenir les dangers de l’intelligence artificielle risque déjà d’être déraillé par les comptables du Congrès. Un ordre exécutif de la Maison Blanche sur l’IA annoncé en octobre demande aux États-Unis de développer de nouveaux critères de test de résistance pour les systèmes IA afin de découvrir leurs biais, leurs menaces cachées et leurs tendances illicites. Mais l’agence chargée de définir ces normes, l’Institut national américain des normes et de la technologie (NIST), manque le budget nécessaire pour effectuer ce travail de manière indépendante d’ici la date limite du 26 juillet 2024, selon plusieurs personnes familiarisées avec le travail. S’exprimant lors de la conférence NeurIPS IA à La Nouvelle-Orléans la semaine dernière, Elham Tabassi, directrice adjointe des technologies émergentes au NIST, a décrit cela comme «une date limite presque impossible» pour l’agence. Certains membres du Congrès ont commencé à s’inquiéter du fait que le NIST sera obligé de s’appuyer fortement sur l’expertise en IA des entreprises privées qui, en raison de leurs propres projets d’IA, ont un intérêt direct à façonner les normes. Le gouvernement américain a déjà fait appel au NIST pour aider à réguler l’IA. En janvier 2023, l’agence a publié un cadre de gestion des risques en IA pour guider les entreprises et les gouvernements. Le NIST a également mis au point des moyens de mesurer la confiance du public dans les nouveaux outils d’IA. Mais l’agence, qui normalise tout, des ingrédients alimentaires aux matériaux radioactifs et aux horloges atomiques, dispose de ressources dérisoires par rapport à celles des entreprises en pointe de l’IA. OpenAI, Google et Meta ont probablement dépensé chacun plus de 100 millions de dollars pour former les puissants modèles de langage qui sous-tendent des applications telles que ChatGPT, Bard et Llama 2.