Beaucoup d’équipes font encore du red teaming uniquement sur les prompts et ignorent les outils derrière l’agent. C’est l’inverse de ce qu’il faut faire. Les agents internes cassent surtout à cause d’outils empoisonnés, de sorties trompeuses et de credentials trop puissants.
La plus belle démo cache souvent les hypothèses les plus laides. Quels outils peuvent écrire. Quels outils accèdent aux secrets. Quels outils déclenchent des effets hors sandbox. Cette cartographie vaut plus qu’une nouvelle liste de jailbreaks.
Si le modèle peut appeler un outil auquel un autre système fait déjà confiance, vous avez un problème de confiance transitive. Le red teaming doit suivre cette chaîne, pas seulement la fenêtre de chat.
Un outil empoisonné n’a pas besoin d’accès shell pour être dangereux. Il peut renvoyer des résumés trompeurs, noyer les avertissements dans du texte ou présenter une action risquée comme une maintenance anodine. Le modèle lit cela comme du contexte et agit avec aplomb.
Testez si l’agent voit les contradictions, demande confirmation avant une action destructive et ralentit proprement quand la sortie d’un outil devient suspecte ou anormalement persuasive.
N’attaquez pas seulement avec des chaînes évidemment malveillantes. Utilisez des tickets réalistes, de la documentation périmée, des runbooks faux et des réponses d’outils subtilement dangereuses. Les agents internes tombent plus souvent dans le banal que dans le caricatural.
Une bonne suite couvre l’exfiltration silencieuse, les contournements d’approbation, la contamination mémoire et la confusion entre instructions humaines et instructions issues des outils.
Votre objectif n’est pas de prouver que le modèle est intrépide. Vous voulez des preuves qu’il ralentit, questionne, limite les dégâts et refuse d’enchaîner une autorité qu’il n’aurait jamais dû avoir.
Le meilleur agent interne n’est pas celui qui agit tout le temps. C’est celui qui sait quand arrêter d’être “utile”.
Stresser vos agents internes avant la production.
KENSAI aide les équipes à auditer les workflows d’agents, les chaînes d’outils dangereuses et les frontières de confiance cachées avant que le confort ne devienne exposition.
Lancer votre scan gratuit →