En raison de l’IA, «nous sommes sur le point d’entrer dans l’ère de l’espionnage de masse», déclare Bruce Schneier.

Dans un éditorial publié lundi dans Slate, le célèbre chercheur en sécurité Bruce Schneier a averti que les modèles de l’IA pourraient permettre une nouvelle ère de surveillance de masse, permettant aux entreprises et aux gouvernements d’automatiser le processus d’analyse et de synthèse de grandes volumes de données de conversation, abaissant fondamentalement les barrières aux activités de surveillance qui nécessitent actuellement du travail humain. Dans l’article, Schneier note que l’actuel paysage de la surveillance électronique a déjà transformé l’ère moderne, devenant le modèle économique de l’Internet, où nos empreintes numériques sont constamment suivies et analysées à des fins commerciales. La surveillance, en revanche, peut transformer ce type de suivi économiquement inspiré en quelque chose de complètement nouveau: «La surveillance et la surveillance sont des choses différentes mais liées», écrit Schneier. «Si je faisais appel à un détective privé pour vous espionner, ce détective pourrait cacher un micro dans votre maison ou votre voiture, vous mettre sur écoute et écouter ce que vous disiez. À la fin, je recevrais un rapport de toutes les conversations que vous avez eues et du contenu de ces conversations. Si je faisais appel à ce même détective privé pour vous mettre sous surveillance, je recevrais un rapport différent: où vous êtes allé, avec qui vous avez parlé, ce que vous avez acheté, ce que vous avez fait. » Schneier dit que les méthodes de surveillance actuelles, comme le tapage téléphonique ou la surveillance physique, sont laborieuses, mais l’avènement de l’IA réduit considérablement cette contrainte. Les systèmes d’IA génératifs sont de plus en plus aptes à résumer les longues conversations et à fouiller dans les gigantesques ensembles de données pour organiser et extraire les informations pertinentes. Selon lui, cette capacité non seulement rend la surveillance plus accessible, mais aussi plus complète. «Cette surveillance ne se limite pas aux conversations sur nos téléphones ou ordinateurs», écrit Schneier. «Tout comme les caméras partout ont alimenté la surveillance de masse, les microphones partout alimenteront la surveillance de masse. Siri et Alexa et «Hey, Google» nous écoutent déjà toujours; les conversations ne sont simplement pas encore enregistrées.»