← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
AI監査ログとコンプライアンス:何をログに記録すべきか、そしてその理由
AIシステムは、通常のアプリケーションログでは対応できない監査ログを必要とします。これはアカウンタビリティ、コンプライアンス、訴訟対応のためです。このガイドでは、何をログに記録すべきか、どのフレームワークがそれを求めているか、なぜエージェントの可観測性が特に難しいのか、そして不変性とeDiscoveryの現実について説明します。
AIに独自の監査ログが必要な理由
AIエージェントは実際のアクションを実行し、非決定論的に動作します。同じプロンプトでも実行ごとに異なるツール呼び出しシーケンスが生成される可能性があるため、従来の決定論的な可観測性では「何かが失敗した」ことは分かっても「なぜ失敗したか」は分かりません。さらに悪いことに、アイデンティティの帰属が不明瞭です。エージェントはしばしば共有サービスアカウントや展開した人間の認証情報の下で動作するため、アクションごとのログがなければ、どのエージェントがそのアクションを実行したかを明確に特定できません。
その結果、最もリスクが高い場面、つまり実際のシステムでの自律的なアクションにおいて、アカウンタビリティのギャップが生じます。監査ログはこのギャップを解消し、もはやオプションではありません。規制当局、監査人、裁判所が求める証拠そのものです。(これは[エージェントガードレールガイド](/articles/autonomous-agent-guardrails)で取り上げた過剰エージェンシーのリスクにも光を当てます。)
ログに記録すべき内容
アプリケーションログはリクエストを記録しますが、AI監査ログは推論チェーンを記録する必要があります。集計メトリクスではなく、構造化されたイベントレコードとしてキャプチャすべき内容は次の通りです:正確なプロンプトとレスポンス、入力と出力を含むすべてのツール呼び出し、モデル名とバージョン、プロンプトバージョン、取得されたコンテキスト、ユーザーID、トークン数とコスト、レイテンシー、そしてエスカレーションや人間の承認イベント。
モデルとバージョンのフィールドは、人々が思っている以上に重要です。モデルのアップグレード後に動作が変化した場合、どのバージョンがどの出力を生成したかをログで確認する必要があります。すべてのレコードをIDに紐付けて、「誰が、どのモデルを使って、いつ、何をしたか」という質問に答えられるトレイルを作成してください。
それを求めるフレームワーク
複数の規制制度が、AIロギングを利便性ではなく義務として位置付けています。EU AI法(第12条)は、トレーサビリティのために高リスクAIシステムがシステムの存続期間中にわたってイベントを自動記録することを義務付けています。GDPRのアカウンタビリティ原則は、文書化された証拠によってコンプライアンスを実証することを求めます。HIPAAは保護された健康データを扱うシステムに対し、複数年の保持期間を伴う監査制御を義務付けています。SOC 2は期間を規定しませんが、自社ポリシーに照らして監査され、改ざん防止を期待します。そしてNIST AI Risk Management Frameworkは、モデル変更やデータバージョン管理ログを含め、ライフサイクル全体にわたる文書化、監査可能性、トレーサビリティを強調します。
共通のポイント:自動的にログを記録し、IDに紐付け、必要に応じて提出できるようにすること。
不変性と保持期間
こっそり編集できるログは証拠になりません。標準は不変性です。つまり、追記専用またはライトワンスのストレージ、あるいは各エントリが前のエントリをハッシュ化して改ざんを検知できる暗号ハッシュチェーンを使用し、生成したシステムとは別に保管することで、管理者でさえ遡及的に変更できないようにします。
保持期間は制度によって異なります:HIPAAはおよそ6年を期待し、SOC 2は一般的にはおよそ12ヶ月(アクティブな調査のためのホットウィンドウ付き)をデフォルトとし、自社ポリシーに照らして監査されます。適用される最も厳格なフレームワークに合わせた保持期間を設定し、プロセスに依存するのではなく、ストレージがそれを強制するようにしてください。
可観測性のギャップとeDiscovery
AIログを形作る2つの新たな圧力があります。第一に、標準化:OpenTelemetry GenAIセマンティック規約がAIテレメトリの共通スキーマとして台頭しており、モデル呼び出し、トークン使用量、エージェントステップの属性名を標準化することで、ログが特定のベンダーに縛られないようにしています。静的なログだけでは検知できないポリシー違反のツール使用や権限エスカレーションを捕捉するために、ログと異常検知を組み合わせてください。
第二に、訴訟:AIのプロンプトと出力は電子的に保存された情報として開示請求の対象となり、裁判所はすでに大量のGenAIログの提出を命じています。これは両方向に働きます。AIのインタラクション履歴は開示リスクであり、リーガルホールド義務でもあります。つまり、システム間に散在させるのではなく、検索可能かつ提出可能な状態で保持する必要があります。
osFoundryにおける監査ログ
osFoundryは監査ログを後付けの機能ではなく、ファーストクラスのエンタープライズ機能として扱います。すべてのAIインタラクション(プロンプト、レスポンス、ツール呼び出し、モデルとバージョン、ユーザー、コスト、エスカレーション)は、IDに紐付けられた構造化されたトレース可能なレコードとしてキャプチャされ、エージェントの可観測性ギャップとEU AI法の自動ログ義務に直接対応します。組み込みのツール呼び出し監査と異常検知がツール層での過剰エージェンシーと権限エスカレーションのリスクを浮き彫りにし、不変の保持期間がSOC 2、HIPAA、GDPRのアカウンタビリティ要件をサポートします。コンプライアンスレポートはこの証拠を認知されたフレームワークにマッピングし、eDiscoveryサポートはAIインタラクション履歴をリーガルホールドのために検索・提出可能にします。これにより、自律AIのアカウンタビリティが断片的な可観測性・ガバナンスツールではなく、単一のプラットフォームから実現されます。ログに記録されたすべてのアクションがガバナンスされたIDに紐付くため、[SSO と RBAC](/articles/sso-rbac-for-ai-workspaces) とも自然に連携します。
Frequently asked questions
- なぜAIは通常のアプリケーションログを超えた監査ログが必要なのですか?
- AIエージェントは実際のアクションを実行し、非決定論的に動作するため、通常のログでは何かが失敗したことは分かっても、なぜそうなったかは分からず、アイデンティティも曖昧になりがちです(共有サービスアカウント)。AI監査ログは、プロンプト、ツール呼び出し、モデルバージョン、ユーザーに紐付けられた出力という完全な推論チェーンを記録します。これがアカウンタビリティ、コンプライアンス、インシデント調査に必要なものです。
- AI監査ログには何をキャプチャすべきですか?
- 正確なプロンプトとレスポンス、入力と出力を含むすべてのツール呼び出し、モデル名とバージョン、プロンプトバージョン、取得されたコンテキスト、ユーザーID、トークン数とコスト、レイテンシー、そしてエスカレーションや承認イベント。集計メトリクスではなく、構造化されたイベントレコードとして保存します。アップグレード後の動作変化を診断するために、モデルとバージョンのフィールドが特に重要です。
- EU AI法はAIログを義務付けていますか?
- はい、高リスクAIシステムに対してです。第12条は、トレーサビリティと市販後監視を可能にするために、システムの存続期間中にわたってイベントを自動記録することを義務付けています。手動の文書化ではなく、自動ログです。その他のフレームワーク(GDPRのアカウンタビリティ、HIPAA、SOC 2、NIST AI RMF)も関連するログおよび証拠義務を課しています。
- AI監査ログはどのくらいの期間保持すべきで、不変である必要がありますか?
- 保持期間はフレームワークによって異なります。HIPAAはおよそ6年を期待し、SOC 2は通常、自社ポリシーに照らして監査された約12ヶ月をデフォルトとします。不変性が標準です:生成システムとは別に保管された追記専用またはハッシュチェーンのストレージで、ログを遡及的に変更できず、改ざんを検知できるようにします。
- どのコンプライアンスフレームワークがAIログを義務付けていますか?
- EU AI法(高リスクシステム向け第12条の自動ログ)、GDPR(アカウンタビリティ原則と処理記録)、HIPAA(複数年保持の監査制御)、SOC 2(改ざん防止を伴うポリシーに照らした監査済みログ)、そしてNIST AI Risk Management Framework(ライフサイクル全体にわたる文書化とトレーサビリティ)。
- なぜ従来の可観測性ツールはAIエージェントをカバーできないのですか?
- 決定論的なシステム向けに構築されたからです。AIエージェントは非決定論的であり、同じ入力でも異なるツール呼び出しシーケンスが生成される可能性があり、アイデンティティの帰属も曖昧なことが多いです。従来のツールは失敗が発生したことはキャプチャできますが、そこに至った推論パスは捉えられません。これがAI固有のイベントレベルの監査ログが埋める可観測性のギャップです。
- AIチャットボットのプロンプトと出力は訴訟で開示請求の対象になりますか?
- はい。AIのプロンプトと出力は開示請求の対象となる電子的に保存された情報として扱われ、裁判所はすでに大量のGenAIログの提出を命じています。これにより、AIのインタラクション履歴は開示リスクとリーガルホールド義務の両方になります。一時的なものとして扱うのではなく、ログを記録して検索・提出可能な状態に保つ強い理由です。
Sources