Des questions se posent alors que Amazon Q commence à halluciner et à fuit des données confidentielles.

Moins d’une semaine après son lancement, Amazon Q – le concurrent d’Amazon Copilot – fait déjà face à une menace sur sa survie, selon un nouveau rapport, qui suggère que l’assistant AI génératif pourrait faire des hallucinations. Q doit faire face à des inexactitudes et à des problèmes de confidentialité, y compris des hallucinations et des fuites de données, a rapporté The Platformer, citant des documents confidentiels. De manière significative, le rapport intervient alors que deux grandes études ont montré que les modèles linguistiques larges (LLM) sont extrêmement inexacts lorsqu’ils sont connectés à des bases de données d’entreprise et deviennent moins transparents. Cependant, selon un porte-parole d’Amazon, Amazon Q n’a fait fuiter aucune information confidentielle. « Certains employés partagent des commentaires via les canaux internes et les systèmes de ticketing, ce qui est la practice standard chez Amazon. Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à ajuster Q alors qu’il passe d’un produit en aperçu à un produit généralement disponible », a déclaré le porte-parole. En dépit des affirmations élevées d’Amazon selon lesquelles il s’agit d’un compagnon de travail pour des millions et des millions de personnes, Amazon Q ne serait peut-être pas prêt pour une utilisation d’entreprise, selon les analystes suivant l’industrie.