L’outil IA alimenté par LLM de Slack peut être trompé pour divulguer des données sensibles provenant de canaux privés dans une nouvelle attaque d’ingénierie de prompts, selon des chercheurs en sécurité. Un rapport des spécialistes en sécurité LLM de PromptArmor détaille un chemin potentiel pour que les cybercriminels utilisent des techniques d’injection de prompts indirects pour manipuler l’IA de Slack et divulguer des données provenant de canaux auxquels ils ne participent pas. L’IA de Slack est une fonctionnalité intégrée à la plateforme de messagerie qui permet aux utilisateurs de consulter des messages en langage naturel. Initialement, la fonctionnalité se limitait à traiter uniquement les messages dans le canal, mais depuis le 14 août, l’IA peut également ingérer des informations à partir de documents téléchargés et de fichiers Google Drive. L’attaque nécessite que les attaquants utilisent des requêtes spécialement conçues pour forcer le modèle à se comporter de manière nuisible. Cette méthode particulière repose sur des techniques d’injection de prompts, par lesquelles les pirates informatiques exploitent l’incapacité d’un LLM à distinguer entre un prompt système créé par un développeur et le reste du contexte qui est ajouté à la requête.
« Désarmer l’IA » : l’encyclique historique du pape Léon XIV, ClickUp remplace 22 % de ses employés par 3 000 agents IA et la Gen Z se révolte contre l’intelligence artificielle
Le pape Léon XIV publie Magnifica humanitas, première encyclique dédiée à la dignité humaine face à l’IA. ClickUp licencie 22 % de son personnel et déploie 3 000 agents IA. La Gen Z américaine hue les discours pro-IA. Google prépare ses Googlebooks et la Chine donne une identité numérique aux robots. Décryptage par Netz Informatique.