← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
AI审计日志与合规:记录什么以及为何记录
AI系统需要普通应用日志无法提供的审计日志——用于问责、合规和诉讼。本指南涵盖需要记录的内容、要求这样做的框架、为何智能体可观测性尤为困难,以及不可变性和eDiscovery的现实情况。
为何AI需要专属的审计日志
AI智能体会执行真实操作,且其行为具有非确定性——同一提示词在不同运行中可能产生不同的工具调用序列——因此传统的确定性可观测性只能告诉你某件事失败了,却无法说明原因。更糟的是,身份归因往往模糊:智能体通常在共享服务账户或部署人员的凭据下运行,因此如果没有逐操作的日志记录,就无法清晰地将某个操作与执行它的智能体关联起来。
这导致在风险最高的地方——在真实系统上的自主操作——出现了问责缺口。审计日志能够弥补这一缺口,而且它越来越不是可选项:这是监管机构、审计员和法院所需要的证据。(这也揭示了我们的[智能体护栏指南](/articles/autonomous-agent-guardrails)中所涉及的过度代理风险。)
需要记录的内容
应用日志记录请求;AI审计日志需要记录推理链。以结构化事件记录(而非聚合指标)的形式捕获以下内容:确切的提示词和响应、每次工具调用及其输入输出、模型名称和版本、提示词版本、检索到的上下文、用户身份、令牌数量和成本、延迟,以及任何升级或人工审批事件。
模型与版本字段比人们预期的更为重要——当模型升级后行为发生变化时,您需要日志来显示哪个版本产生了哪个输出。将每条记录与身份绑定,使追踪记录能够回答「谁用哪个模型在何时做了什么」。
要求记录的框架
多项监管制度现已将AI日志记录列为强制要求,而非可选项。EU AI Act(第12条)要求高风险AI系统在系统整个生命周期内自动记录事件以确保可追溯性。GDPR的问责原则要求您提供有据可查的证据来证明合规。HIPAA要求对涉及受保护健康数据的系统实施审计控制,并保留多年记录。SOC 2不规定具体期限,但会根据您自己的策略对您进行审计,并期望具备防篡改能力。NIST AI Risk Management Framework则强调在整个生命周期内进行文档记录、可审计性和可追溯性——包括模型变更和数据版本记录。
共同主线:自动记录日志、与身份绑定,并能够按需提供。
不可变性与保留期限
可被悄悄编辑的日志不构成证据。标准是不可变性——仅追加或一次性写入存储,或使用加密哈希链(每个条目对前一个条目进行哈希,使任何篡改都可检测)——与生成它的系统分开保存,即使是管理员也无法进行追溯性更改。
不同监管制度的保留期限各有不同:HIPAA要求大约六年,而SOC 2通常默认约十二个月(含用于活跃调查的热窗口),并根据您声明的策略进行审计。将保留期限设置为您所适用的最严格框架的要求,并确保由存储系统强制执行,而非依赖于流程。
可观测性差距与eDiscovery
两种新兴压力正在塑造AI日志记录的格局。其一是标准化:OpenTelemetry GenAI语义规范正在成为AI遥测的通用模式——标准化模型调用、令牌使用量和智能体步骤的属性名称——从而避免日志被锁定在特定供应商。将日志记录与异常检测相结合,以发现违反策略的工具使用和权限升级,这些是静态日志单独无法标记的问题。
其二是诉讼:AI提示词和输出属于可被查阅的电子存储信息,法院已经强制要求提交大量GenAI日志。这是双向的——您的AI交互历史既是电子取证风险,也是法律保全义务,这意味着您需要让其处于可搜索和可提供的状态,而不是分散在各个系统中。
osFoundry中的审计日志
osFoundry将审计日志视为一流的企业级能力,而非附加功能。每次AI交互——提示词、响应、工具调用、模型及版本、用户、成本和升级——都以结构化、可追溯的记录形式与身份绑定进行捕获,直接解决了智能体可观测性差距和EU AI Act的自动日志记录要求。内置的工具调用审计和异常检测在工具层面揭示了过度代理和权限升级风险,而不可变的保留功能则支持SOC 2、HIPAA和GDPR的问责预期。合规报告将这些证据映射到公认的框架,eDiscovery支持使AI交互历史可搜索和可提供以满足法律保全需求——从而让自主AI的问责来自单一平台,而非拼凑在一起的可观测性和治理工具。它与[SSO和RBAC](/articles/sso-rbac-for-ai-workspaces)自然配合,因为每条已记录的操作都可追溯到受治理的身份。
Frequently asked questions
- 为何AI除了普通应用日志之外还需要审计日志?
- 因为AI智能体会执行真实操作且行为具有非确定性,所以普通日志只能显示某件事失败了,却无法说明原因,而且身份往往是模糊的(共享服务账户)。AI审计日志记录完整的推理链——提示词、工具调用、模型版本,以及与用户关联的输出——这正是问责、合规和事件调查所需要的。
- AI审计日志应该捕获哪些内容?
- 确切的提示词和响应、每次工具调用及其输入输出、模型名称和版本、提示词版本、检索到的上下文、用户身份、令牌数量和成本、延迟,以及任何升级或审批事件——以结构化事件记录的形式存储,而非仅仅是聚合指标。模型与版本字段对于诊断升级后的行为变化尤为重要。
- EU AI Act是否要求进行AI日志记录?
- 是的,针对高风险AI系统。第12条要求它们在系统生命周期内自动记录事件,以实现可追溯性和上市后监控——是自动日志记录,而非手动文档记录。其他框架(GDPR问责原则、HIPAA、SOC 2、NIST AI RMF)也规定了相关的日志记录和证据义务。
- AI审计日志必须保留多长时间,是否必须具有不可变性?
- 保留期限取决于适用的框架——HIPAA要求大约六年,SOC 2通常默认约十二个月,并根据您自己的策略进行审计。不可变性是标准要求:仅追加或哈希链式存储,与生成系统分开保存,确保日志无法被追溯性更改,且任何篡改均可被检测到。
- 哪些合规框架要求进行AI日志记录?
- EU AI Act(针对高风险系统的第12条自动日志记录)、GDPR(问责原则和处理记录)、HIPAA(具有多年保留期的审计控制)、SOC 2(经防篡改审计、依据策略审计的日志记录),以及NIST AI Risk Management Framework(整个生命周期内的文档记录和可追溯性)。
- 为何传统可观测性工具无法覆盖AI智能体?
- 因为它们是为确定性系统构建的。AI智能体具有非确定性——相同的输入可能产生不同的工具调用序列——且其身份归因往往模糊。传统工具能捕获故障的发生,却无法捕获导致故障的推理路径,这正是AI专属的事件级审计日志所填补的可观测性差距。
- AI聊天机器人的提示词和输出在诉讼中是否可被取证?
- 是的。AI提示词和输出属于受电子取证约束的电子存储信息,法院已经强制要求提交大量GenAI日志。这使得您的AI交互历史既是电子取证风险,也是法律保全义务——这是将其记录在案、保持可搜索和可提供(而非短暂保留)的有力理由。
Sources