← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
Registro de Auditoria de IA e Conformidade: O Que Registrar e Por Quê
Os sistemas de IA precisam de registros de auditoria que o registro convencional de aplicações não fornece — para responsabilização, conformidade e litígios. Este guia aborda o que registrar, os frameworks que o exigem, por que a observabilidade de agentes é particularmente difícil, e as realidades sobre imutabilidade e eDiscovery.
Por que a IA precisa de registro de auditoria próprio
Agentes de IA executam ações reais e se comportam de forma não determinística — o mesmo prompt pode produzir sequências diferentes de chamadas de ferramentas em execuções distintas — portanto, a observabilidade tradicional e determinística pode indicar que algo falhou, mas não por quê. Pior ainda, a atribuição de identidade é ambígua: os agentes frequentemente atuam sob contas de serviço compartilhadas ou com as credenciais do humano que os implantou, de modo que sem registro por ação não é possível vincular claramente uma ação ao agente que a realizou.
O resultado é uma lacuna de responsabilização exatamente onde os riscos são maiores — ações autônomas em sistemas reais. O registro de auditoria preenche essa lacuna, e cada vez mais deixa de ser opcional: é a evidência que reguladores, auditores e tribunais solicitam. (Ele também evidencia os riscos de agência excessiva abordados em nosso [guia de salvaguardas para agentes](/articles/autonomous-agent-guardrails).)
O que registrar
Registros de aplicações capturam requisições; os registros de auditoria de IA precisam capturar a cadeia de raciocínio. Registre, como eventos estruturados em vez de métricas agregadas: o prompt exato e a resposta, cada chamada de ferramenta com suas entradas e saídas, o nome e a versão do modelo, a versão do prompt, o contexto recuperado, a identidade do usuário, a contagem de tokens e o custo, a latência e qualquer evento de escalonamento ou aprovação humana.
O campo de modelo e versão importa mais do que as pessoas imaginam — quando o comportamento muda após uma atualização do modelo, você precisa dos registros para saber qual versão produziu qual saída. Vincule cada registro a uma identidade para que o rastro responda a "quem fez o quê, com qual modelo e quando".
Os frameworks que exigem isso
Vários regimes tornam o registro de IA um requisito, não uma conveniência. A Lei de IA da UE (Artigo 12) exige que sistemas de IA de alto risco registrem automaticamente eventos ao longo da vida do sistema para garantir a rastreabilidade. O princípio de responsabilização do GDPR obriga você a demonstrar a conformidade com evidências documentadas. A HIPAA exige controles de auditoria sobre sistemas que processam dados de saúde protegidos, com retenção de vários anos. O SOC 2 não prescreve um período, mas audita você conforme sua própria política e espera evidência de resistência a adulterações. E o Framework de Gestão de Riscos de IA do NIST enfatiza documentação, auditabilidade e rastreabilidade — incluindo registros de alterações de modelo e versionamento de dados — ao longo do ciclo de vida.
O fio condutor: registre automaticamente, vincule a uma identidade e seja capaz de produzi-lo.
Imutabilidade e retenção
Registros que podem ser editados silenciosamente não são evidências. O padrão é a imutabilidade — armazenamento somente de acréscimo (append-only) ou gravação única, ou encadeamento de hash criptográfico em que cada entrada inclui o hash da anterior, de modo que qualquer adulteração seja detectável — mantidos separadamente do sistema que os gerou, para que mesmo administradores não possam alterá-los retroativamente.
A retenção varia conforme o regime: a HIPAA espera aproximadamente seis anos, enquanto o SOC 2 geralmente define cerca de doze meses por padrão (com uma janela ativa para investigações em andamento), auditados conforme sua política declarada. Defina a retenção de acordo com o framework mais rigoroso ao qual você está sujeito e certifique-se de que o armazenamento a aplique, em vez de depender de processos manuais.
A lacuna de observabilidade e o eDiscovery
Duas pressões mais recentes moldam o registro de auditoria de IA. Primeiro, os padrões: as convenções semânticas de GenAI do OpenTelemetry estão emergindo como esquema comum para telemetria de IA — padronizando nomes de atributos para chamadas de modelo, uso de tokens e etapas de agente — para que os registros não fiquem presos a um único fornecedor. Combine o registro com detecção de anomalias para identificar uso de ferramentas fora da política e escalonamento de permissões que registros estáticos por si só não sinalizariam.
Segundo, os litígios: prompts e saídas de IA são informações armazenadas eletronicamente e passíveis de descoberta, e tribunais já determinaram a produção de grandes volumes de registros de GenAI. Isso tem dois lados — seu histórico de interação com IA é tanto uma responsabilidade de descoberta quanto uma obrigação de retenção legal, o que significa que você precisa que ele seja pesquisável e produzível, não disperso entre sistemas.
Registro de auditoria no osFoundry
osFoundry trata o registro de auditoria como uma capacidade empresarial de primeira classe, não como um complemento tardio. Cada interação com IA — prompts, respostas, chamadas de ferramentas, modelo e versão, usuário, custo e escalonamentos — é capturada como registros estruturados e rastreáveis vinculados a uma identidade, abordando diretamente a lacuna de observabilidade de agentes e o mandato de registro automático do Artigo 12 da Lei de IA da UE. A auditoria integrada de chamadas de ferramentas e a detecção de anomalias evidenciam os riscos de agência excessiva e escalonamento de permissões na camada de ferramentas, enquanto a retenção imutável apoia as expectativas de responsabilização do SOC 2, HIPAA e GDPR. Relatórios de conformidade mapeiam essa evidência para frameworks reconhecidos, e o suporte a eDiscovery torna o histórico de interação com IA pesquisável e produzível para retenção legal — de modo que a responsabilização por IA autônoma venha de uma única plataforma, em vez de ferramentas de observabilidade e governança costuradas entre si. Combina naturalmente com [SSO e RBAC](/articles/sso-rbac-for-ai-workspaces), já que cada ação registrada está vinculada a uma identidade governada.
Frequently asked questions
- Por que a IA precisa de registro de auditoria além dos registros normais de aplicações?
- Porque os agentes de IA executam ações reais e se comportam de forma não determinística, portanto registros comuns podem mostrar que algo falhou, mas não por quê, e a identidade geralmente é ambígua (contas de serviço compartilhadas). Os registros de auditoria de IA capturam toda a cadeia de raciocínio — prompts, chamadas de ferramentas, versão do modelo e saídas vinculadas a um usuário — que é o que a responsabilização, a conformidade e a investigação de incidentes exigem.
- O que um registro de auditoria de IA deve capturar?
- O prompt e a resposta exatos, cada chamada de ferramenta com entradas e saídas, o nome e a versão do modelo, a versão do prompt, o contexto recuperado, a identidade do usuário, a contagem de tokens e o custo, a latência e qualquer evento de escalonamento ou aprovação — armazenados como registros de eventos estruturados, não apenas métricas agregadas. O campo de modelo e versão é especialmente importante para diagnosticar mudanças de comportamento após atualizações.
- A Lei de IA da UE exige registro de IA?
- Sim, para sistemas de IA de alto risco. O Artigo 12 exige que registrem automaticamente eventos ao longo da vida do sistema para possibilitar rastreabilidade e monitoramento pós-comercialização — registro automático, não documentação manual. Outros frameworks (responsabilização do GDPR, HIPAA, SOC 2, NIST AI RMF) impõem obrigações de registro e evidência relacionadas.
- Por quanto tempo os registros de auditoria de IA devem ser retidos e precisam ser imutáveis?
- A retenção depende do framework — a HIPAA espera aproximadamente seis anos, o SOC 2 geralmente define cerca de doze meses auditados conforme sua própria política. A imutabilidade é o padrão: armazenamento somente de acréscimo ou com encadeamento de hash, mantido separadamente do sistema gerador, de modo que os registros não possam ser alterados retroativamente e qualquer adulteração seja detectável.
- Quais frameworks de conformidade exigem registro de IA?
- A Lei de IA da UE (registro automático do Artigo 12 para sistemas de alto risco), o GDPR (o princípio de responsabilização e registros de tratamento), a HIPAA (controles de auditoria com retenção de vários anos), o SOC 2 (registro auditado conforme sua política com resistência a adulterações) e o Framework de Gestão de Riscos de IA do NIST (documentação e rastreabilidade ao longo do ciclo de vida).
- Por que ferramentas de observabilidade tradicionais não cobrem agentes de IA?
- Porque foram criadas para sistemas determinísticos. Agentes de IA são não determinísticos — a mesma entrada pode gerar sequências diferentes de chamadas de ferramentas — e sua atribuição de identidade geralmente é ambígua. Ferramentas tradicionais capturam que uma falha ocorreu, mas não o caminho de raciocínio que levou a ela, que é a lacuna de observabilidade que o registro de auditoria a nível de evento específico para IA preenche.
- Prompts e saídas de chatbots de IA são passíveis de descoberta em processos judiciais?
- Sim. Prompts e saídas de IA se qualificam como informações armazenadas eletronicamente sujeitas a descoberta, e tribunais já determinaram a produção de grandes volumes de registros de GenAI. Isso torna seu histórico de interação com IA tanto uma responsabilidade de descoberta quanto uma obrigação de retenção legal — uma razão sólida para mantê-lo registrado, pesquisável e produzível, em vez de efêmero.
Sources