Plate-forme

Trois jours après l’annonce d’Amazon de son chatbot IA Q, certains employés sonnent l’alarme sur les problèmes d’exactitude et de confidentialité. Q «souffre d’hallucinations sévères et fuit des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de remises internes et les fonctionnalités non publiées, selon des documents confidentiels obtenus par Platformer. Un employé a marqué l’incident comme étant «sev 2», ce qui signifie qu’il est suffisamment grave pour qu’il soit nécessaire de joindre des ingénieurs la nuit et de les faire travailler le week-end pour le résoudre. Les premiers ennuis de Q surviennent au moment où Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont surpassé Amazon dans la course à la construction d’outils et d’infrastructures utilisant l’IA générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la startup d’IA Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour développeurs, elle a annoncé Q – probablement la plus grande annonce en termes de nouvelles initiatives d’IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de ticketing internes, ce qui est la pratique standard chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié en raison de ce feedback. Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à régler Q pendant sa transition d’un produit en version préliminaire à une version généralement disponible.»