L’outil AI de Slack alimenté par LLM peut être manipulé pour divulguer des données sensibles provenant de canaux privés lors d’une nouvelle attaque d’ingénierie de prompt, selon des chercheurs en sécurité. Un rapport des spécialistes en sécurité LLM chez PromptArmor détaille une voie potentielle pour que les cybercriminels utilisent des techniques d’injection de prompt indirectes pour manipuler l’AI de Slack afin de divulguer des données des canaux auxquels ils ne participent pas. L’AI de Slack est une fonctionnalité intégrée à la plateforme de messagerie qui permet aux utilisateurs de consulter des messages en langage naturel. Initialement, la fonction était limitée au traitement des messages dans le canal, mais depuis le 14 août, l’AI peut également ingérer des informations à partir de documents téléchargés et de fichiers Google Drive. L’attaque nécessite que les attaquants utilisent des requêtes spécialement conçues pour forcer le modèle à se comporter de manière néfaste. Cette méthode particulière repose sur des techniques d’injection de prompt, les pirates exploitant l’incapacité d’un LLM à distinguer entre un prompt système créé par un développeur et le reste du contexte qui est ajouté à la requête.
« Désarmer l’IA » : l’encyclique historique du pape Léon XIV, ClickUp remplace 22 % de ses employés par 3 000 agents IA et la Gen Z se révolte contre l’intelligence artificielle
Le pape Léon XIV publie Magnifica humanitas, première encyclique dédiée à la dignité humaine face à l’IA. ClickUp licencie 22 % de son personnel et déploie 3 000 agents IA. La Gen Z américaine hue les discours pro-IA. Google prépare ses Googlebooks et la Chine donne une identité numérique aux robots. Décryptage par Netz Informatique.