Plate-forme

Trois jours après l’annonce d’Amazon de son chatbot IA Q, certains employés sonnent l’alarme sur les problèmes d’exactitude et de confidentialité. Q «vit des hallucinations sévères et fuit des données confidentielles», y compris les emplacements des centres de données AWS, les programmes de réduction internes et les fonctionnalités non encore lancées, selon des documents confidentiels obtenus par Platformer. Un employé a qualifié l’incident de «sev 2», ce qui signifie un incident suffisamment grave pour justifier le fait de pager des ingénieurs la nuit et de les obliger à travailler le week-end pour le résoudre. Les premiers ennuis de Q interviennent alors que Amazon s’efforce de combattre la perception selon laquelle Microsoft, Google et d’autres entreprises de technologie ont surpassé Amazon dans la course à la construction d’outils et d’infrastructures tirant parti de l’intelligence artificielle générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la startup d’IA Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour développeurs, elle a annoncé Q – probablement la sortie la plus médiatisée de la série de nouvelles initiatives en IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de ticketing internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à ajuster Q alors qu’il passe d’un produit en prévisualisation à un produit généralement disponible.»