Comment le système de filigrane ‘IA’ poussé par Microsoft et Adobe fonctionnera et ne fonctionnera pas

Les gros noms de l’informatique Microsoft, Adobe et d’autres ont promis cette semaine d’ajouter des métadonnées à leurs images générées par intelligence artificielle afin que les applications compatibles à l’avenir les affichent en tant qu’images créées par machine, à l’aide d’un symbole spécial. Vous avez peut-être vu certains rapports à ce sujet décrits peut-être comme une sorte d’eau-de-vie de l’IA. Nous avons donc regardé de plus près. Le symbole, décrit comme un «icône de transparence», représente les lettres «cr» en minuscules à l’intérieur d’une bulle en forme de guillemets. Il a été créé par la Coalition pour la preuve de l’authenticité et de la provenance du contenu (C2PA), un groupe d’organisations couvrant les secteurs de la technologie et de la presse. La C2PA existe depuis environ deux ans et est soutenue par Adobe, Arm, Intel, Microsoft et Truepic. Elle définit en détail comment les métadonnées d’une image peuvent certifier de manière sécurisée, de manière numérique, l’origine et l’historique des modifications de cette image. Il existe des approches alternatives ainsi que des métadonnées traditionnelles d’images; C2PA propose une approche soutenue par les grands noms cités ci-dessus. En fait, vous pouvez utiliser les métadonnées Content Credentials de C2PA pour toute image, qu’elle soit générée par une IA ou non. Les exemples donnés sur le site Web de Content Credentials ont été créés à l’aide des outils Photoshop et Firefly AI d’Adobe, et peuvent être identifiés comme tels grâce à leurs métadonnées. Ce que Microsoft, Adobe et d’autres ont promis de faire, c’est de s’assurer que leurs générateurs d’IA incluront à un moment donné dans le futur ces métadonnées numériquement signées dans leurs images conçues par machine. L’objectif est de fournir une façon pour les gens de voir si une image a été créée par un modèle ou par un être humain et comment.