Plate-forme

Trois jours après que Amazon a annoncé son chatbot IA Q, certains employés sonnent l’alarme en raison de problèmes d’exactitude et de confidentialité. Q est en train «d’expérimenter des hallucinations sévères et de fuiter des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non encore lancées, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident comme étant «sev 2», ce qui signifie un incident suffisamment grave pour qu’il soit nécessaire de paginer des ingénieurs la nuit et de les faire travailler pendant le week-end pour le résoudre. Les premiers ennuis de Q interviennent au moment où Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont dépassé Amazon dans la course aux outils et à l’infrastructure permettant de tirer parti de l’IA générative. En septembre, l’entreprise a annoncé qu’elle allait investir jusqu’à 4 milliards de dollars dans la startup Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour développeurs, elle a annoncé Q – probablement le lancement le plus médiatisé de la série de nouvelles initiatives en IA que l’entreprise a lancées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de billetterie internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à ajuster Q au fur et à mesure de sa transition d’un produit en version préliminaire à une version généralement disponible.»