La mise à jour de Slack AI, un service d’assistance facultatif disponible pour les utilisateurs du service de messagerie d’équipe de Salesforce, est vulnérable à l’injection de commande, selon la société de sécurité PromptArmor. Le service AI fournit des outils génératifs au sein de Slack pour des tâches telles que la résumé de longues conversations, trouver des réponses aux questions et résumer les canaux rarement visités. « Slack AI utilise les données de conversation déjà présentes dans Slack pour créer une expérience AI intuitive et sécurisée adaptée à vous et à votre organisation », explique le fournisseur de l’application de messagerie dans sa documentation. Sauf que ce n’est pas si sûr, comme le dit PromptArmor. Une vulnérabilité d’injection de commande dans Slack AI rend possible l’extraction de données dans les canaux privés de Slack. Les modèles d’IA génératifs acceptent les commandes utilisateur – questions ou directives textuelles – en entrée, puis produisent une sortie prédictive en réponse, dans les limites établies par une commande système prédéfinie. L’injection de commande est une technique pour modifier la commande système qui définit les ordres de base du modèle, de sorte que le modèle se comporte mal ou que les interactions ultérieures ne soient pas contraintes par des directives de sécurité.
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
