Une équipe joue le rôle de l’attaquant : contourner les garde-fous, obtenir des contenus interdits, extraire des données. Pour les applications IA, le red teaming combine des scénarios écrits à la main et des attaques générées automatiquement.
C’est l’équivalent, pour l’IA, du test d’intrusion en sécurité classique.