Google ne rétrogradera pas les principaux sites de deepfake pornographique à moins que les victimes ne signalent en masse.

Aujourd’hui, Google a annoncé de nouvelles mesures pour lutter contre la propagation rapide des deepfakes explicites non consensuels générés par l’IA dans ses résultats de recherche. En raison d’une « augmentation préoccupante des images et vidéos générées qui dépeignent des personnes dans des contextes sexuellement explicites, diffusées sur le web sans leur consentement », Google a déclaré qu’il avait consulté des « experts et des survivants de victimes » pour apporter des « mises à jour significatives » à son moteur de recherche largement utilisé afin de « mieux protéger les gens ». Plus précisément, Google a facilité la possibilité pour les cibles d’images explicites falsifiées – principalement des femmes selon les experts – de signaler et de supprimer les deepfakes qui apparaissent dans les résultats de recherche. De plus, Google a pris des mesures pour déclasser les deepfakes explicites « afin d’empêcher ce type de contenu de figurer en bonne place dans les résultats de recherche », selon le moteur de recherche leader mondial. Les victimes de la pornographie deepfake ont précédemment critiqué Google pour ne pas avoir été plus proactif dans sa lutte contre les deepfakes dans les résultats de recherche. La mise en lumière des images et le signalement de chacune d’entre elles est un « processus épuisant en temps et en énergie » et une « bataille constante », a déclaré Kaitlyn Siragusa, une joueuse Twitch avec un OnlyFans explicite fréquemment ciblée par des deepfakes, à Bloomberg l’année dernière. En réponse, Google a travaillé pour « simplifier le processus », en partie en « aidant les gens à aborder ce problème à grande échelle ». Désormais, lorsque la victime soumet une demande de suppression, « les systèmes de Google viseront également à filtrer tous les résultats explicites sur des recherches similaires les concernant », a déclaré le blog de Google. Et une fois qu’un deepfake est « correctement supprimé », Google « recherchera – et supprimera – toutes les duplications de cette image que nous trouvons », indique le blog.