Plateformeur

Trois jours après l’annonce d’Amazon de son chatbot IA Q, certains employés sonnent l’alarme en raison de problèmes d’exactitude et de confidentialité. Q «souffre d’hallucinations sévères et fuit des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non encore lancées, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident comme «sev 2», ce qui signifie qu’il est suffisamment important pour qu’on appelle les ingénieurs la nuit et qu’ils travaillent le week-end pour le résoudre. Les premiers problèmes de Q interviennent au moment où Amazon s’efforce de combattre la perception que Microsoft, Google et d’autres entreprises technologiques l’ont dépassé dans la course à la construction d’outils et d’infrastructures tirant parti de l’intelligence générative artificielle. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la startup Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services, elle a annoncé Q – probablement la plus grande annonce dans la série de nouvelles initiatives en IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certaines personnes partagent des commentaires via nos canaux internes et nos systèmes de billetterie, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à ajuster Q lorsqu’il passera d’un produit en version préliminaire à une version généralement disponible.»