‘Comment le système de filigrane ‘AI’ poussé par Microsoft et Adobe fonctionnera et ne fonctionnera pas’

Les grands noms de l’informatique, tels que Microsoft et Adobe, ont promis cette semaine d’ajouter des métadonnées à leurs images générées par intelligence artificielle, de sorte que les futures applications compatibles les afficheront comme étant fabriquées par machine, à l’aide d’un symbole spécial. Vous avez peut-être lu quelques rapports à ce sujet, décrits peut-être comme une sorte de filigrane de l’IA. Nous avons donc regardé de plus près. Le symbole, décrit comme «icône de transparence», représente les lettres «cr» en minuscules à l’intérieur d’une bulle en forme de guillemets. Il a été créé par la Coalition for Content Provenance and Authenticity (C2PA), un groupe d’organisations représentant différents secteurs, notamment le secteur des technologies et de la presse. La C2PA existe depuis environ deux ans; est pilotée par Adobe, Arm, Intel, Microsoft et Truepic; et précise en détail comment les métadonnées d’une image peuvent certifier de manière sécurisée et numérique l’origine et l’historique des modifications de cette image. Il existe des approches alternatives ainsi que des métadonnées d’images traditionnelles; C2PA propose une approche impulsée par ces grands noms. En fait, vous pouvez utiliser les métadonnées Content Credentials de C2PA pour toute image, qu’elle soit générée par intelligence artificielle ou non. Les exemples donnés sur le site Web de Content Credentials ont été créés à l’aide des outils Photoshop et Firefly AI d’Adobe, et peuvent être identifiés comme tels grâce à leurs métadonnées. Ce que Microsoft, Adobe et les autres ont promis de faire, c’est de s’assurer que leurs générateurs d’IA incluront à un moment donné dans le futur ces métadonnées cryptographiquement signées dans leurs images fabriquées par machine. L’objectif étant de fournir une façon pour les gens de voir si une image était modélisée ou créée par un être humain, et comment.