Les entreprises de IA devraient divulguer les données d’entraînement protégées par des droits d’auteur en vertu du nouveau projet

Par Emilia David, une journaliste qui couvre l’IA. Avant de rejoindre The Verge, elle a couvert l’intersection entre la technologie, les finances et l’économie. Deux législateurs ont déposé un projet de loi exigeant que les créateurs de modèles de fondation divulguent les sources de données d’entraînement afin que les titulaires de droits d’auteur sachent que leurs informations ont été prises. La loi sur la transparence des modèles de fondation d’IA – déposée par les représentants Anna Eshoo (D-CA) et Don Beyer (D-VA) – dirigerait la Federal Trade Commission (FTC) pour qu’elle travaille avec l’Institut national américain des normes et de la technologie (NIST) pour établir des règles de rapport sur la transparence des données d’entraînement. Les entreprises qui fabriquent des modèles de fondation devront rapporter les sources de données d’entraînement et la manière dont les données sont conservées pendant le processus d’inférence, décrire les limitations ou les risques du modèle, comment le modèle s’aligne sur le cadre de gestion des risques en IA prévu par le NIST et toute autre norme fédérale pourrait être établie, et fournir des informations sur la puissance de calcul utilisée pour former et exécuter le modèle. Le projet de loi stipule également que les développeurs d’IA doivent rapporter leurs efforts pour «red team» le modèle afin de l’empêcher de fournir des «informations inexactes ou nuisibles» concernant les questions médicales ou de santé, la synthèse biologique, la cybersécurité, les élections, la police, les décisions de prêt financiers, l’éducation, les décisions d’emploi, les services publics et les populations vulnérables telles que les enfants. Le projet de loi souligne l’importance de la transparence des données d’entraînement en matière de droits d’auteur, car plusieurs poursuites ont été intentées contre des entreprises d’IA pour des allégations de violation de droits d’auteur. Il mentionne spécifiquement le cas des artistes contre Stability AI, Midjourney et Deviant Art (qui a été largement rejeté en octobre, selon VentureBeat), et la plainte de Getty Images contre Stability AI. «Avec l’accès public accru à l’intelligence artificielle, il y a eu une augmentation des poursuites et des préoccupations publiques concernant les violations du droit d’auteur», indique le projet de loi. «L’utilisation publique des modèles de fondation a entraîné de nombreux cas où le public est présenté avec des informations inexactes, imprécises ou biaisées.»