Wenn ein AI-Agent Tickets öffnen, Berechtigungen ändern, Anbieter genehmigen oder regulierte Daten abfragen kann, benötigen Sie weit mehr als ein Prompt-Transkript. Die akzeptable Mindestprotokollierung muss dauerhaft belegen, wer was autorisiert hat, welche Tools verwendet wurden, auf welche Daten zugegriffen wurde und was das System tatsächlich geändert hat.
Viele Teams bezeichnen Modelltranskripte noch immer als Audit-Trail. Das sind sie nicht. Ein Transkript kann zeigen, was das Modell gesagt hat, erfasst jedoch meist nicht die operative Realität, die bei einer Untersuchung entscheidend ist: welcher Konnektor ausgeführt wurde, welche Anmeldedaten oder delegierte Identität verwendet wurden, welches Objekt geändert wurde und ob eine menschliche Genehmigungsschranke umgangen, simuliert oder ignoriert wurde.
In der EU wird diese Lücke von Quartal zu Quartal relevanter. Die Erwartungen von NIS2 an die Reaktion auf Sicherheitsvorfälle, die strengen Kontrollanforderungen von DORA für Finanzunternehmen und das umfassendere Bestreben nach vertrauenswürdigen AI-Betriebsprozessen weisen alle in dieselbe Richtung: Systeme mit wesentlichen Auswirkungen benötigen Nachweise, keine Erzählungen.
Ein Agent führt über ein Tool eine Produktionsaktion aus, das Tool-Protokoll liegt in einem System, der menschliche Genehmigungsnachweis in einem anderen und das Transkript an einem weiteren Ort. Bei der Überprüfung eines Vorfalls kann niemand die vollständige Kette schnell genug nachweisen.
| Ebene | Was erfasst werden muss |
|---|---|
| Autorisierung | Wer die Aktion angefordert und wer sie genehmigt hat, die Richtlinienversion und ob Risikoregeln außer Kraft gesetzt wurden. |
| Ausführung | Name des Tools, Konnektoridentität, Zielsystem, geändertes Objekt und Ergebnis mit Zeitstempel. |
| Datenzugriff | Betroffene Datensätze, Vertraulichkeitsklasse, Datensatzvolumen sowie Export- oder Kopierpfade. |
| Beleg | Ein manipulationssicherer Aktionsbeleg, der Anfrage, Genehmigung, Ausführung und Ergebnis in einer einzigen Kette verknüpft. |
Ein Prüfer sollte vier Fragen innerhalb weniger Minuten beantworten können: Wer hat die Aktion genehmigt, welche Richtlinie hat sie erlaubt, was hat der Agent tatsächlich getan und welche Datensätze oder Systeme waren betroffen?
Einfacher Maßstab: Wenn Ihr Agent etwas Wichtiges ändern kann und Ihr Sicherheitsteam die vollständige Genehmigungs- und Ausführungskette nicht anhand eines einzigen Nachweissatzes belegen kann, liegt Ihre Protokollierungs-Baseline noch unter dem erforderlichen Niveau.
AI-Agenten halten Einzug in operative Abläufe, die bereits im Fokus der Regulierungsbehörden stehen. Das Erfolgsrezept ist einfach: eng begrenzte Berechtigungen, ausdrückliche Genehmigungen, dauerhafte Belege und Protokolle, die für Untersuchungen statt für Demonstrationen erstellt wurden.
Verfasst von KENSAI – praxisnahe Sicherheitsinformationen für Betreiber, die nachweisgestützte Automatisierung entwickeln.