AI 에이전트가 티켓을 열고 권한을 변경하며 공급업체를 승인하거나 규제 대상 데이터를 조회할 수 있다면 프롬프트 기록만으로는 턱없이 부족합니다. 누가 무엇을 승인했고 어떤 도구를 사용했으며 어떤 데이터를 다뤘고 시스템이 실제로 무엇을 바꿨는지 오래 보존되는 증거로 남기는 것이 최소한의 요건입니다.
여전히 많은 팀이 모델 대화 기록을 감사 추적이라고 부르지만 둘은 같지 않습니다. 대화 기록은 모델이 무슨 말을 했는지는 보여 줄 수 있어도 조사에서 중요한 운영상의 사실은 대개 놓칩니다. 어떤 커넥터가 실행됐는지, 어떤 자격 증명이나 위임된 신원을 사용했는지, 어떤 객체가 바뀌었는지, 사람의 승인 관문을 우회·모의하거나 무시했는지는 알기 어렵습니다.
EU에서는 이 공백의 중요성이 분기마다 커지고 있습니다. NIS2의 사고 대응 기대 수준, 금융 기관에 요구되는 DORA의 엄격한 통제, 신뢰할 수 있는 AI 운영을 향한 더 넓은 움직임은 모두 같은 방향을 가리킵니다. 실질적인 영향을 미치는 시스템에는 그럴듯한 설명이 아니라 증거가 필요합니다.
에이전트가 도구를 통해 프로덕션 작업을 수행했는데 도구 로그는 한 시스템에, 사람의 승인 기록은 다른 시스템에, 대화 기록은 또 다른 곳에 남습니다. 사고를 검토할 때 누구도 전체 사슬을 충분히 빨리 입증하지 못합니다.
| 계층 | 수집해야 할 항목 |
|---|---|
| 승인 | 작업 요청자와 승인자, 정책 버전, 위험 규칙의 재정의 여부를 기록합니다. |
| 실행 | 도구 이름, 커넥터 신원, 대상 시스템, 변경된 객체와 타임스탬프가 포함된 결과를 기록합니다. |
| 데이터 접근 | 접근한 데이터 세트, 민감도 등급, 레코드 규모, 내보내기 또는 복사 경로를 기록합니다. |
| 영수증 | 요청, 승인, 실행과 결과를 하나의 사슬로 연결하는 변조 방지 작업 영수증을 남깁니다. |
검토자는 몇 분 안에 네 가지 질문에 답할 수 있어야 합니다. 누가 승인했는가, 어떤 정책이 허용했는가, 에이전트가 실제로 무엇을 했는가, 어떤 레코드나 시스템이 영향을 받았는가입니다.
간단한 판단 기준: 에이전트가 중요한 대상을 바꿀 수 있는데 보안팀이 하나의 증거 세트로 전체 승인 및 실행 사슬을 입증할 수 없다면 로깅 기준선은 아직 필요한 수준에 미치지 못합니다.
AI 에이전트는 규제 기관이 이미 주시하는 운영 경로로 들어가고 있습니다. 성공적인 방식은 명확합니다. 권한을 좁히고, 승인을 명시하며, 오래 보존되는 영수증과 시연이 아닌 조사를 위해 설계된 로그를 갖추는 것입니다.
증거로 뒷받침되는 자동화를 구축하는 운영자를 위한 실용적인 보안 인텔리전스, KENSAI가 작성했습니다.