Les électeurs indiens sont bombardés de millions de deepfakes. Les candidats politiques approuvent.

Un après-midi étouffant d’avril à Ajmer, dans l’État indien du Rajasthan, le politicien local Shakti Singh Rathore s’est installé devant un écran vert pour tourner une courte vidéo. Il avait l’air nerveux. C’était sa première fois à être cloné. Vêtu d’une chemise blanche propre et d’une écharpe safran cérémonielle arborant une fleur de lotus – le logo du BJP, le parti au pouvoir du pays – Rathore a pressé ses paumes ensemble et salué son public en hindi. « Namashkar, » a-t-il commencé. « À tous mes frères – » Avant qu’il puisse continuer, le réalisateur de la prise est entré dans le cadre. Divyendra Singh Jadoun, âgé de 31 ans, chauve avec une épaisse barbe noire, a dit à Rathore qu’il bougeait trop devant la caméra. Jadoun essayait de capturer suffisamment de données audio et vidéo pour créer un deepfake d’intelligence artificielle de Rathore qui convaincrait 300 000 électeurs potentiels autour d’Ajmer qu’ils avaient eu une conversation personnalisée avec lui – mais un mouvement excessif briserait l’algorithme. Jadoun a dit à son sujet de regarder droit dans la caméra et de ne bouger que ses lèvres. « Recommencez, » a-t-il dit. Chez Polymath Synthetic Media Solutions, le deepfaker autodidacte Divyendra Singh Jadoun collecte des données vidéo et audio de politiciens locaux afin de traduire leur discours en différentes langues pour le contact avec les électeurs. Ici, le discours de Shakti Singh Rathore est généré en hindi, tamoul, sanscrit et marathi. Vidéo : Nilesh Christopher/Divyendra Singh Jadoun/WIRED En ce moment, la plus grande démocratie du monde va aux urnes. Près d’un milliard d’Indiens sont éligibles pour voter dans le cadre des élections générales du pays, et les deepfakes pourraient jouer un rôle décisif, voire divisif. Les partis politiques indiens ont exploité l’IA pour déformer la réalité à travers de simples faux audio, des images de propagande et des parodies d’IA. Mais tandis que le discours mondial sur les deepfakes se concentre souvent sur la désinformation, de nombreux politiciens indiens utilisent la technologie à des fins différentes : la sensibilisation des électeurs.