← 블로그로 돌아가기

KENSAI 연구: 증거 게이트로 AI 기반 노출 분류의 신뢰성 확보

AI는 노출 분류를 가속할 수 있지만, 모든 권고가 보안팀이 검토할 수 있는 증거에 근거할 때만 그렇습니다. KENSAI 증거 게이트는 모델 지원 우선순위를 유용하게 유지하면서 불투명한 의사결정 계층으로 변질되지 않도록 설계되었습니다.

---

---

AI 분류에 게이트가 필요한 이유

보안팀은 더 빠른 우선순위 결정을 원하지만, 경보가 인터넷 노출 자산과 프로덕션 소유권에 관련될 때 속도만으로는 충분하지 않습니다. 모델은 신호를 묶고 심각도를 제안하며 유력한 다음 조치를 강조할 수 있지만, 그런 제안이 그 근거가 된 증거보다 우선해서는 안 됩니다.

증거 게이트는 단순한 통제 장치입니다. AI 지원 분류가 노출의 우선순위를 높이거나 낮추거나 경로를 지정하기 전에, 시스템은 해당 권고의 근거가 된 관찰 가능한 사실을 첨부해야 합니다. 이를 통해 분석가가 통제권을 유지하고 검토자는 결과에서 원본 신호까지 추적할 수 있습니다.

---

KENSAI가 표준화하는 요소

• 신호 근거: 모든 AI 지원 우선순위 점수는 그 점수를 형성한 서비스, 노출 유형, 타임스탬프, 신뢰도 지표와 계속 연결됩니다.
• 자산 인식 맥락: 권고는 대기열 배치가 바뀌기 전에 소유권, 환경, 인터넷 접근 가능성, 비즈니스 중요도 라벨을 고려합니다.
• 검토 가능한 판단 근거: 분석가는 단순한 심각도 라벨만 받는 대신 발견 항목의 우선순위가 올라가거나 내려간 이유를 확인할 수 있습니다.
• 안전한 재정의 경로: 사람의 결정은 계속 표시되고 문서화되며, 이후 모델과 워크플로 조정에 활용할 수 있습니다.

---

운영상의 효과

증거 게이트는 일상적인 보안 운영에서 AI 지원을 더 쉽게 신뢰하도록 합니다. 대기열이 이미 관찰 가능한 위험을 중심으로 정리되어 있어 분석가는 빠르게 움직일 수 있고, 검토자는 모델의 처리 경로를 역으로 추적하지 않고도 권고에 이의를 제기할 수 있습니다.

또한 경보 드리프트를 줄입니다. 새로운 스캔, 소유권 변경, 배포 이벤트로 노출 상황이 달라지면 KENSAI는 무엇이 바뀌었는지 설명하는 증거 추적 기록을 보존하면서 권고를 갱신할 수 있습니다.

---

팀이 지금 이 패턴을 적용하는 방법

1. AI가 지원한 모든 우선순위 변경에 영향을 준 구체적인 신호를 명시하도록 요구합니다.
2. 모델 신뢰도와 비즈니스 영향을 분리해 분석가가 두 차원을 명확히 검토할 수 있게 합니다.
3. 특히 인터넷 노출 자산과 중요 서비스에 대한 사람의 재정의와 그 이유를 기록합니다.
4. 반복되는 재정의를 매월 검토해 개선이 필요한 규칙, 라벨, 신호 소스를 찾습니다.

---

결론: AI는 노출 분류를 더 빠르게 만들되 설명을 더 어렵게 해서는 안 됩니다. KENSAI 증거 게이트는 보안팀이 검토하고 신뢰하며 개선할 수 있는 증거에 권고를 근거하도록 합니다.