Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent juste obliger un LLM à parler comme un pirate. Dans tous les cas, c’est le travail de l’équipe rouge d’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge d’IA de Microsoft en 2019, bien avant l’essor de ChatGPT. Kumar et ses collègues ont rencontré divers échecs d’IA, et vous pouvez en entendre parler et plus encore dans un entretien avec The Register ci-dessous.
Vidéo Youtube
« La confusion commune est la suivante : les équipes rouges d’IA peuvent remplacer toutes les équipes rouges traditionnelles », a-t-il déclaré. « Ce n’est absolument pas le cas ».
Équilibrer la Numérisation et la Sobriété Numérique dans la Formation Professionnelle : Solutions Actuelles et Besoins Émergents
La formation professionnelle tout au long de la vie (FTLV) connaît une transformation significative dans le contexte actuel de numérisation
