Les groupes extrémistes ont commencé à expérimenter l’intelligence artificielle, en particulier l’IA générative, dans le but de créer une avalanche de nouvelle propagande. Les experts craignent maintenant que l’utilisation croissante d’outils d’IA générative par ces groupes ne renverse le travail accompli ces dernières années par les grandes entreprises de technologie pour empêcher leur contenu de paraitre sur internet. «Notre plus grande préoccupation est que si les terroristes commencent à utiliser l’IA générative pour manipuler l’imagerie à grande échelle, cela pourrait très bien détruire le partage de hachage comme solution», explique Adam Hadley, directeur exécutif de Tech Against Terrorism, à WIRED. «C’est un énorme risque.» Depuis des années, les plateformes de technologie de pointe travaillent dur pour créer des bases de données de contenu violent extrémiste connu, appelées bases de hachage, qui sont partagées sur toutes les plateformes pour supprimer rapidement et automatiquement ce type de contenu de l’internet. Mais, selon Hadley, ses collègues récupèrent environ 5 000 exemples de contenu généré par IA chaque semaine. Cela inclut des images partagées ces dernières semaines par des groupes liés à Hezbollah et à Hamas qui semblent avoir été conçues pour influencer le récit entourant la guerre Israel-Hamas. «Donnez-lui six mois ou un peu plus, la possibilité qu’ils manipulent l’imagerie pour contourner le hachage est vraiment préoccupante», explique Hadley. «Le secteur de la technologie a fait tellement bien pour développer une technologie automatisée, les terroristes pourraient bien commencer à utiliser l’IA générative pour échapper à ce qui a déjà été fait.» D’autres exemples découverts récemment par Tech Against Terrorism ont inclus un canal de messagerie néonazi partageant des images générées par IA créées à l’aide de invites racistes et antisémites collées dans une application disponible sur le Google Play Store; des figures de la droite extrême produisant un «guide de la guerre mémétique» conseillant aux autres sur la façon d’utiliser des outils d’images générés par IA pour créer des memes extrémistes; l’État islamique publiant un guide technique sur la façon d’utiliser en toute sécurité des outils d’IA générative; un utilisateur pro-EI d’un service d’archivage affirmant avoir utilisé un système de reconnaissance automatique de la parole (ASR) basé sur l’IA pour transcrire la propagande arabe de l’EI; et une outlet pro-al-Qaïda publiant plusieurs affiches avec des images très probablement créées à l’aide d’une plateforme d’IA générative.
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
