‘Comment aborder les chatbots au langage vulgaire jusqu’aux LLMs qui fuient. À quoi ressemble la vie au sein de l’équipe rouge d’IA de Microsoft?’

Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent simplement forcer un LLM à parler comme un pirate. De toute façon, le travail de l’équipe rouge d’IA est d’anticiper comment quelqu’un pourrait essayer d’arme ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge d’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs en matière d’IA, que vous pouvez découvrir dans une interview avec The Register ci-dessous. Vidéo Youtube « La confusion courante est la suivante : les équipes rouges d’IA peuvent remplacer toutes les équipes rouges traditionnelles », a-t-il déclaré. « Ce n’est absolument pas le cas. »