S’attaquer aux chatbots à la langue déplacée jusqu’aux LLM qui fuient. Quelle est la vie dans l’équipe rouge d’IA de Microsoft ?

Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent simplement obliger un LLM à parler comme un pirate. Dans tous les cas, c’est le rôle de l’équipe rouge de l’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge de l’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs d’IA, et vous pouvez en savoir plus à ce sujet dans une interview avec The Register ci-dessous. Vidéo Youtube « L’idée fausse commune est que les équipes rouges de l’IA peuvent remplacer toutes les équipes rouges traditionnelles, » a-t-il dit. « Ce n’est absolument pas le cas. »