Si un agent IA peut ouvrir des tickets, modifier les autorisations, approuver des fournisseurs ou interroger des données réglementées, vous avez besoin de bien plus qu'une simple transcription rapide. La trace minimale acceptable est une preuve durable de qui a autorisé quoi, quels outils ont été utilisés, quelles données ont été touchées et ce que le système a réellement modifié.
De nombreuses équipes appellent encore les transcriptions des modèles une piste d'audit. Ce n’est pas le cas. Une transcription peut montrer ce que dit le modèle, mais elle manque généralement la vérité opérationnelle qui compte lors d'une enquête : quel connecteur a été exécuté, quel identifiant ou identité déléguée a été utilisé, quel objet a changé et si une porte d'approbation humaine a été contournée, simulée ou ignorée.
Dans l’UE, cet écart s’accentue chaque trimestre. Les attentes en matière de réponse de NIS2, la rigueur du contrôle DORA pour les entités financières et la tendance plus large vers des opérations d’IA fiables vont toutes dans la même direction : les systèmes ayant un impact matériel ont besoin de preuves, pas de narration.
Un agent effectue une action de production via un outil, le journal de l'outil se trouve dans un système, le dossier d'approbation humaine se trouve dans un autre et la transcription se trouve ailleurs. Lors de l’examen d’un incident, personne ne peut prouver l’intégralité de la chaîne assez rapidement.
| Couche | Que capturer |
|---|---|
| Autorisation | Qui a demandé l’action, qui l’a approuvée, la version de la politique et si les règles de risque ont été outrepassées. |
| Exécution | Nom de l'outil, identité du connecteur, système de destination, objet modifié et résultat horodaté. |
| Accès aux données | Ensembles de données touchés, classe de sensibilité, volume d'enregistrement et chemins d'exportation ou de copie. |
| Reçu | Un reçu d'action inviolable qui relie la demande, l'approbation, l'exécution et le résultat en une seule chaîne. |
Un réviseur devrait être capable de répondre à quatre questions en quelques minutes : qui l'a approuvé, quelle politique l'a autorisé, ce que l'agent a réellement fait et quels enregistrements ou systèmes ont été affectés.
Un repère simple : si votre agent peut modifier quelque chose d'important et que votre équipe de sécurité ne peut pas prouver l'intégralité de la chaîne d'approbation et d'exécution à partir d'un seul ensemble de preuves, votre référence de journalisation est toujours en dessous de ce qu'elle devrait être.
Les agents d’IA s’orientent vers des voies opérationnelles qui intéressent déjà les régulateurs. Le modèle gagnant est simple : autorisations étroites, approbations explicites, reçus durables et journaux créés pour les enquêtes, pas pour les démonstrations.
Écrit par KENSAI, des renseignements de sécurité pratiques pour les opérateurs créant une automatisation fondée sur des preuves.