Le Slack AI mis à jour, un service d’assistance en tant qu’extension disponible pour les utilisateurs du service de messagerie d’équipe de Salesforce, est vulnérable à l’injection de commandes, selon la firme de sécurité PromptArmor. Le service AI fournit des outils de génération au sein de Slack pour des tâches telles que la synthèse de longues conversations, la recherche de réponses à des questions, et la synthèse de canaux rarement visités. « Le Slack AI utilise les données de conversation déjà présentes dans Slack pour créer une expérience AI intuitive et sécurisée adaptée à vous et à votre organisation, » explique le fournisseur d’application de messagerie dans sa documentation. Sauf que ce n’est pas aussi sécurisé, comme le dit PromptArmor. Une vulnérabilité d’injection de commandes dans le Slack AI rend possible l’extraction de données des canaux Slack privés. Les modèles AI génératifs acceptent les commandes des utilisateurs – des questions en texte ou des indications – en tant qu’entrée, pour ensuite produire une sortie prédictive en réponse, dans les limites établies par une commande système prédéfinie. L’injection de commandes est une technique pour modifier la commande système qui définit les ordres de base du modèle, de façon à ce que le modèle se comporte mal ou que les interactions ultérieures ne soient pas contraintes par des directives de sécurité.
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
