Des questions se posent alors qu’Amazon Q commence à halluciner et à fuiter des données confidentielles.

En moins d’une semaine de son lancement, Amazon Q – le concurrent d’Amazon Copilot – fait déjà face à une menace sur sa survie, selon un nouveau rapport, qui suggère que l’assistant génératif IA pourrait être en train d’halluciner. Q est confronté à des inexactitudes et des problèmes de confidentialité, y compris des hallucinations et des fuites de données, a rapporté The Platformer, citant des documents confidentiels. De manière significative, le rapport intervient alors que deux grandes études ont montré que les modèles linguistiques larges (LLM) sont extrêmement inexacts lorsqu’ils sont connectés à des bases de données d’entreprise et deviennent de moins en moins transparents. Cependant, selon un porte-parole d’Amazon, Amazon Q n’a fuité aucune information confidentielle. «Certains employés partagent leurs commentaires via des canaux internes et des systèmes de ticketing, ce qui est une pratique courante chez Amazon. Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à affiner Q alors qu’il passe d’un produit en prévisualisation à un produit disponible en général», a déclaré le porte-parole. Malgré les affirmations de Amazon selon lesquelles il serait un compagnon de travail pour des millions et des millions de personnes, Amazon Q ne serait peut-être pas prêt pour une utilisation dans les entreprises, selon les analystes suivant l’industrie.