Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent simplement obliger un LLM à parler comme un pirate. Dans tous les cas, c’est le rôle de l’équipe rouge de l’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge de l’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs d’IA, et vous pouvez en savoir plus à ce sujet dans une interview avec The Register ci-dessous. Vidéo Youtube « L’idée fausse commune est que les équipes rouges de l’IA peuvent remplacer toutes les équipes rouges traditionnelles, » a-t-il dit. « Ce n’est absolument pas le cas. »
« La Croisade acharnée d’un couple pour arrêter un tueur génétique »
En y repensant, cela aurait pu être un indice. Mais au début de l’année 2010, lorsque Kamni Vallabh a commencé
