‘Les campagnes d’influence étrangère ne savent pas encore comment utiliser l’IA non plus’

Aujourd’hui, OpenAI a publié son premier rapport sur les menaces, détaillant comment des acteurs de Russie, d’Iran, de Chine et d’Israël ont tenté d’utiliser sa technologie pour des opérations d’influence étrangère à travers le monde. Le rapport a nommé cinq réseaux différents que OpenAI a identifiés et fermés entre 2023 et 2024. Dans le rapport, OpenAI révèle que des réseaux établis comme le Doppleganger de la Russie et le Spamoflauge de la Chine expérimentent comment utiliser l’IA générative pour automatiser leurs opérations. Ils ne sont pas très bons dans cette pratique. Et même s’il est un soulagement modeste que ces acteurs n’aient pas maîtrisé l’IA générative pour devenir des forces imparables de désinformation, il est clair qu’ils expérimentent, et cela seul devrait être inquiétant. Le rapport OpenAI révèle que les campagnes d’influence se heurtent aux limites de l’IA générative, qui ne produit pas de manière fiable un bon copier-coller ou code. Elle a du mal avec les idiomes, qui rendent la langue plus humaine et personnelle de manière plus fiable, et parfois avec la grammaire de base (à tel point que OpenAI a nommé un réseau « Mauvaise Grammaire »). Le réseau Mauvaise Grammaire était si négligent qu’il a une fois révélé sa véritable identité : « En tant que modèle de langage IA, je suis là pour aider et fournir le commentaire souhaité », a-t-il publié. Un réseau a utilisé ChatGPT pour déboguer du code qui lui permettrait d’automatiser des publications sur Telegram, une application de messagerie depuis longtemps appréciée par les extrémistes et les réseaux d’influence. Cela a bien fonctionné parfois, mais d’autres fois, cela a conduit au même compte postant sous deux personnages distincts, dévoilant ainsi le jeu. Dans d’autres cas, ChatGPT a été utilisé pour créer du code et du contenu pour des sites web et des réseaux sociaux. Par exemple, Spamoflauge a utilisé ChatGPT pour déboguer du code et créer un site web WordPress qui publiait des histoires attaquant des membres de la diaspora chinoise critiques du gouvernement du pays.