Plate-forme

Trois jours après l’annonce d’Amazon de son chatbot IA Q, certains employés sonnent l’alarme en raison de problèmes d’exactitude et de confidentialité. Q est en train de faire «des hallucinations sévères et de fuiter des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non encore lancées, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident en «sev 2», ce qui signifie un incident suffisamment grave pour justifier l’appel aux ingénieurs la nuit et les faire travailler le week-end pour le réparer. Les premiers ennuis de Q interviennent alors qu’Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont dépassé Amazon dans la course aux outils et à l’infrastructure bénéficiant de l’intelligence artificielle générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la start-up Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour les développeurs, elle a annoncé Q – probablement la plus grande annonce en termes de nouvelles initiatives en IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de ticketing internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à affiner Q alors qu’il passe d’un produit en version préliminaire à une version généralement disponible.»