La mise à jour de Slack AI, un service d’assistance facultatif disponible pour les utilisateurs du service de messagerie d’équipe de Salesforce, est vulnérable à l’injection de commande, selon la société de sécurité PromptArmor. Le service AI fournit des outils génératifs au sein de Slack pour des tâches telles que la résumé de longues conversations, trouver des réponses aux questions et résumer les canaux rarement visités. « Slack AI utilise les données de conversation déjà présentes dans Slack pour créer une expérience AI intuitive et sécurisée adaptée à vous et à votre organisation », explique le fournisseur de l’application de messagerie dans sa documentation. Sauf que ce n’est pas si sûr, comme le dit PromptArmor. Une vulnérabilité d’injection de commande dans Slack AI rend possible l’extraction de données dans les canaux privés de Slack. Les modèles d’IA génératifs acceptent les commandes utilisateur – questions ou directives textuelles – en entrée, puis produisent une sortie prédictive en réponse, dans les limites établies par une commande système prédéfinie. L’injection de commande est une technique pour modifier la commande système qui définit les ordres de base du modèle, de sorte que le modèle se comporte mal ou que les interactions ultérieures ne soient pas contraintes par des directives de sécurité.
« Désarmer l’IA » : l’encyclique historique du pape Léon XIV, ClickUp remplace 22 % de ses employés par 3 000 agents IA et la Gen Z se révolte contre l’intelligence artificielle
Le pape Léon XIV publie Magnifica humanitas, première encyclique dédiée à la dignité humaine face à l’IA. ClickUp licencie 22 % de son personnel et déploie 3 000 agents IA. La Gen Z américaine hue les discours pro-IA. Google prépare ses Googlebooks et la Chine donne une identité numérique aux robots. Décryptage par Netz Informatique.