← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
AI 감사 로깅과 컴플라이언스: 무엇을 기록하고 왜 기록하는가
AI 시스템은 일반적인 애플리케이션 로깅이 제공하지 못하는 감사 로그가 필요합니다 — 책임성, 컴플라이언스, 소송을 위해서입니다. 이 가이드는 무엇을 기록해야 하는지, 어떤 프레임워크가 이를 요구하는지, 에이전트 관찰 가능성이 왜 특히 어려운지, 그리고 불변성과 eDiscovery의 현실에 대해 다룹니다.
AI에 전용 감사 로깅이 필요한 이유
AI 에이전트는 실제 작업을 수행하고 비결정론적으로 동작합니다 — 동일한 프롬프트도 실행할 때마다 다른 툴 호출 시퀀스를 생성할 수 있습니다 — 따라서 전통적인 결정론적 관찰 도구는 무언가 실패했다는 사실은 알려줄 수 있어도 왜 실패했는지는 알 수 없습니다. 더 나아가 신원 귀속이 불분명한 경우가 많습니다. 에이전트는 공유 서비스 계정이나 배포한 사람의 자격 증명으로 동작하는 경우가 많아, 작업별 로깅 없이는 어떤 에이전트가 해당 작업을 수행했는지 명확히 추적할 수 없습니다.
그 결과, 위험이 가장 높은 곳 — 실제 시스템에서의 자율적 작업 — 에 책임 공백이 생깁니다. 감사 로깅은 이 공백을 메워주며, 더 이상 선택 사항이 아닙니다. 규제 기관, 감사인, 법원이 요구하는 증거 그 자체입니다. (이는 [에이전트 가드레일 가이드](/articles/autonomous-agent-guardrails)에서 다루는 과도한 에이전시 위험도 조명합니다.)
기록해야 할 내용
애플리케이션 로그는 요청을 기록하지만, AI 감사 로그는 추론 체인을 기록해야 합니다. 집계 메트릭이 아닌 구조화된 이벤트 레코드로 캡처할 내용: 정확한 프롬프트와 응답, 입력과 출력을 포함한 모든 툴 호출, 모델 이름과 버전, 프롬프트 버전, 검색된 컨텍스트, 사용자 신원, 토큰 수와 비용, 지연 시간, 그리고 모든 에스컬레이션 또는 인간 승인 이벤트.
모델-버전 필드는 사람들이 예상하는 것보다 훨씬 중요합니다 — 모델 업그레이드 후 동작이 변경될 때, 어떤 버전이 어떤 출력을 생성했는지 로그에서 확인해야 합니다. 모든 레코드를 신원과 연결하여 '누가, 어떤 모델로, 언제, 무엇을 했는지'라는 질문에 답할 수 있는 추적 기록을 만드세요.
이를 요구하는 프레임워크
여러 규제 체계가 이제 AI 로깅을 선택이 아닌 의무로 규정하고 있습니다. EU AI Act(제12조)는 추적 가능성을 위해 고위험 AI 시스템이 시스템 수명 기간 동안 이벤트를 자동으로 기록하도록 요구합니다. GDPR의 책임 원칙은 문서화된 증거로 컴플라이언스를 입증하도록 의무화합니다. HIPAA는 보호된 건강 데이터를 다루는 시스템에 대해 다년간 보존을 동반한 감사 제어를 요구합니다. SOC 2는 특정 기간을 규정하지 않지만 자체 정책에 따라 감사하며 위변조 방지 증거를 기대합니다. NIST AI Risk Management Framework는 모델 변경 및 데이터 버전 관리 로그를 포함하여 라이프사이클 전반에 걸친 문서화, 감사 가능성, 추적 가능성을 강조합니다.
공통 원칙: 자동으로 기록하고, 신원과 연결하며, 제출할 수 있어야 합니다.
불변성과 보존 기간
몰래 편집할 수 있는 로그는 증거가 되지 않습니다. 표준은 불변성입니다 — 추가 전용(append-only) 또는 일회성 쓰기(write-once) 스토리지, 혹은 각 항목이 이전 항목을 해시하여 모든 변조를 감지할 수 있는 암호화 해시 체인 — 이를 생성한 시스템과 분리하여 보관함으로써 관리자조차 소급 수정할 수 없도록 합니다.
보존 기간은 규제 체계마다 다릅니다. HIPAA는 약 6년을, SOC 2는 일반적으로 약 12개월(활성 조사를 위한 핫 윈도우 포함)을 기본값으로 하며, 명시된 정책에 따라 감사됩니다. 적용되는 가장 엄격한 프레임워크에 맞게 보존 기간을 설정하고, 프로세스에 의존하지 말고 스토리지가 이를 강제하도록 하세요.
관찰 가능성 격차와 eDiscovery
AI 로깅을 형성하는 두 가지 새로운 압력이 있습니다. 첫째, 표준화: OpenTelemetry GenAI 시맨틱 규약이 AI 텔레메트리의 공통 스키마로 부상하고 있습니다 — 모델 호출, 토큰 사용량, 에이전트 단계의 속성 이름을 표준화하여 로그가 특정 벤더에 종속되지 않도록 합니다. 정적 로그만으로는 감지할 수 없는 정책 위반 툴 사용과 권한 에스컬레이션을 포착하기 위해 로깅과 이상 탐지를 함께 활용하세요.
둘째, 소송: AI 프롬프트와 출력은 전자적으로 저장된 정보로서 법원의 증거 개시 대상이 되며, 법원은 이미 대량의 GenAI 로그 제출을 강제한 바 있습니다. 이는 양방향으로 작용합니다 — AI 상호작용 이력은 증거 개시 책임이자 법적 보존 의무이므로, 시스템 전반에 분산된 상태가 아닌 검색 가능하고 제출 가능한 형태로 유지해야 합니다.
osFoundry에서의 감사 로깅
osFoundry는 감사 로깅을 부가 기능이 아닌 최우선 엔터프라이즈 기능으로 다룹니다. 모든 AI 상호작용 — 프롬프트, 응답, 툴 호출, 모델 및 버전, 사용자, 비용, 에스컬레이션 — 은 신원과 연결된 구조화된 추적 가능 레코드로 캡처되어, 에이전트 관찰 가능성 격차와 EU AI Act의 자동 로깅 의무를 직접 해결합니다. 기본 제공 툴 호출 감사와 이상 탐지는 툴 계층에서의 과도한 에이전시 및 권한 에스컬레이션 위험을 표면화하는 한편, 불변 보존은 SOC 2, HIPAA, GDPR 책임 기대를 지원합니다. 컴플라이언스 보고서는 이 증거를 인정된 프레임워크에 매핑하고, eDiscovery 지원은 AI 상호작용 이력을 법적 보존을 위해 검색 및 제출 가능하게 만듭니다 — 자율 AI에 대한 책임이 분산된 관찰 도구와 거버넌스 도구의 짜깁기가 아닌 단일 플랫폼에서 이루어집니다. 기록된 모든 작업이 거버넌스된 신원으로 연결되므로 [SSO와 RBAC](/articles/sso-rbac-for-ai-workspaces)와도 자연스럽게 연동됩니다.
Frequently asked questions
- AI는 왜 일반 애플리케이션 로그 외에 감사 로깅이 필요한가요?
- AI 에이전트는 실제 작업을 수행하고 비결정론적으로 동작하기 때문입니다. 일반 로그는 무언가 실패했다는 사실은 보여줄 수 있어도 이유는 알 수 없으며, 신원도 종종 모호합니다(공유 서비스 계정). AI 감사 로그는 프롬프트, 툴 호출, 모델 버전, 사용자와 연결된 출력이라는 완전한 추론 체인을 기록합니다 — 이것이 책임성, 컴플라이언스, 인시던트 조사에 필요한 것입니다.
- AI 감사 로그에는 어떤 내용을 캡처해야 하나요?
- 정확한 프롬프트와 응답, 입력과 출력을 포함한 모든 툴 호출, 모델 이름과 버전, 프롬프트 버전, 검색된 컨텍스트, 사용자 신원, 토큰 수와 비용, 지연 시간, 그리고 모든 에스컬레이션 또는 승인 이벤트 — 집계 메트릭이 아닌 구조화된 이벤트 레코드로 저장합니다. 업그레이드 후 동작 변화를 진단하는 데 모델-버전 필드가 특히 중요합니다.
- EU AI Act이 AI 로깅을 요구하나요?
- 네, 고위험 AI 시스템에 대해서입니다. 제12조는 추적 가능성과 시판 후 모니터링을 위해 시스템 수명 기간 동안 이벤트를 자동으로 기록하도록 요구합니다 — 수동 문서화가 아닌 자동 로깅입니다. 다른 프레임워크(GDPR 책임 원칙, HIPAA, SOC 2, NIST AI RMF)도 관련 로깅 및 증거 의무를 부과합니다.
- AI 감사 로그는 얼마나 오래 보존해야 하며, 불변성을 갖춰야 하나요?
- 보존 기간은 프레임워크에 따라 다릅니다 — HIPAA는 약 6년을 요구하고, SOC 2는 일반적으로 자체 정책에 따라 감사되는 약 12개월을 기본값으로 합니다. 불변성이 표준입니다: 생성 시스템과 분리하여 보관되는 추가 전용 또는 해시 체인 스토리지로, 로그를 소급 수정할 수 없고 모든 변조를 감지할 수 있어야 합니다.
- 어떤 컴플라이언스 프레임워크가 AI 로깅을 요구하나요?
- EU AI Act(고위험 시스템에 대한 제12조 자동 로깅), GDPR(책임 원칙 및 처리 기록), HIPAA(다년간 보존을 동반한 감사 제어), SOC 2(위변조 방지와 함께 정책에 따라 감사되는 로깅), NIST AI Risk Management Framework(라이프사이클 전반에 걸친 문서화 및 추적 가능성).
- 기존 관찰 도구가 AI 에이전트를 다루지 못하는 이유는 무엇인가요?
- 결정론적 시스템을 위해 구축되었기 때문입니다. AI 에이전트는 비결정론적이어서 — 동일한 입력이 다른 툴 호출 시퀀스를 생성할 수 있습니다 — 신원 귀속도 종종 모호합니다. 전통적인 도구는 장애 발생 사실은 캡처하지만 그에 이른 추론 경로는 포착하지 못합니다. 이것이 AI 전용 이벤트 수준 감사 로깅이 채워주는 관찰 가능성 격차입니다.
- AI 챗봇의 프롬프트와 출력이 소송에서 증거로 개시될 수 있나요?
- 네. AI 프롬프트와 출력은 증거 개시 대상인 전자적으로 저장된 정보에 해당하며, 법원은 이미 대량의 GenAI 로그 제출을 강제한 바 있습니다. 이는 AI 상호작용 이력이 증거 개시 책임이자 법적 보존 의무가 됨을 의미합니다 — 일시적인 상태로 두지 않고 로그를 기록하고 검색 및 제출 가능한 형태로 유지해야 할 강력한 이유입니다.
Sources