← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
Аудит-логирование ИИ и соответствие требованиям: что фиксировать и почему
Системы ИИ нуждаются в журналах аудита, которые обычное логирование приложений не обеспечивает — для подотчётности, соответствия требованиям и судебных разбирательств. В этом руководстве рассматривается, что нужно фиксировать, какие регуляторные фреймворки это требуют, почему наблюдаемость агентов представляет особую сложность, а также реалии неизменяемости данных и eDiscovery.
Почему ИИ нуждается в собственном аудит-логировании
Агенты ИИ выполняют реальные действия и ведут себя недетерминированно — один и тот же промпт может порождать разные последовательности вызовов инструментов при разных запусках — поэтому традиционная детерминированная наблюдаемость способна сообщить, что что-то пошло не так, но не почему. Хуже того, атрибуция идентификации размыта: агенты нередко действуют под общими учётными записями служб или с учётными данными развернувшего их человека, поэтому без логирования на уровне каждого действия невозможно однозначно связать действие с выполнившим его агентом.
Результатом становится пробел в подотчётности именно там, где риски наиболее высоки — автономные действия на реальных системах. Аудит-логирование устраняет этот пробел, и всё реже оно остаётся необязательным: это доказательства, которых требуют регуляторы, аудиторы и суды. (Оно также выявляет риски чрезмерной автономии, рассмотренные в нашем [руководстве по ограничениям для агентов](/articles/autonomous-agent-guardrails).)
Что фиксировать
Логи приложений фиксируют запросы; журналы аудита ИИ должны фиксировать цепочку рассуждений. Записывайте в виде структурированных записей событий, а не агрегированных метрик: точный промпт и ответ, каждый вызов инструмента с его входными и выходными данными, название и версию модели, версию промпта, извлечённый контекст, идентификатор пользователя, количество токенов и стоимость, задержку и любое событие эскалации или одобрения человеком.
Поле «модель и версия» важнее, чем принято считать — когда поведение изменяется после обновления модели, вам нужны логи, чтобы выяснить, какая версия породила тот или иной вывод. Привязывайте каждую запись к идентификатору, чтобы след отвечал на вопрос: «кто что сделал, с какой моделью и когда».
Регуляторные фреймворки, требующие этого
Ряд регуляторных режимов превращает логирование ИИ из удобной функции в обязательное требование. Закон ЕС об ИИ (Статья 12) требует, чтобы ИИ-системы высокого риска автоматически фиксировали события на протяжении всего жизненного цикла системы в целях обеспечения прослеживаемости. Принцип подотчётности GDPR обязывает вас документально подтверждать соответствие требованиям. HIPAA предписывает контроль аудита для систем, обрабатывающих защищённые медицинские данные, с многолетним хранением. SOC 2 не устанавливает конкретного периода, но проверяет вас по вашей же собственной политике и требует доказательств защиты от фальсификации. А Рамочная программа управления рисками ИИ NIST делает акцент на документировании, проверяемости и прослеживаемости — включая журналы изменений моделей и версионирование данных — на протяжении всего жизненного цикла.
Общая нить: фиксируйте автоматически, привязывайте к идентификатору и будьте готовы предоставить доказательства.
Неизменяемость и хранение данных
Логи, которые можно тихо отредактировать, не являются доказательствами. Стандартом служит неизменяемость — хранилище только для добавления (append-only) или однократной записи, либо криптографическое хеш-цепочное хранение, при котором каждая запись содержит хеш предыдущей, что делает любую фальсификацию обнаруживаемой, — хранящееся отдельно от породившей его системы, чтобы даже администраторы не могли изменить его задним числом.
Сроки хранения варьируются в зависимости от режима: HIPAA требует примерно шесть лет, тогда как SOC 2 обычно ограничивается примерно двенадцатью месяцами (с активным окном для текущих расследований), проверяемыми по задекларированной вами политике. Установите срок хранения по наиболее строгому фреймворку, которому вы подчиняетесь, и убедитесь, что его соблюдение обеспечивается хранилищем, а не только процессами.
Пробел в наблюдаемости и eDiscovery
Две относительно новые тенденции определяют аудит-логирование ИИ. Во-первых, стандарты: семантические соглашения OpenTelemetry GenAI утверждаются в качестве общей схемы для телеметрии ИИ — стандартизируя имена атрибутов для вызовов моделей, использования токенов и шагов агентов — так что логи не оказываются привязаны к одному вендору. Дополняйте логирование обнаружением аномалий, чтобы выявлять использование инструментов вне политики и эскалацию разрешений, которые статические логи сами по себе не отметят.
Во-вторых, судебные разбирательства: промпты и выводы ИИ являются электронно хранимой информацией, подлежащей раскрытию, и суды уже обязывали к предоставлению больших объёмов логов GenAI. Это имеет двоякие последствия — история взаимодействия с ИИ является одновременно обязательством в рамках раскрытия и обязательством по правовому хранению, а значит, она должна быть доступна для поиска и предоставления, а не разбросана по системам.
Аудит-логирование в osFoundry
osFoundry рассматривает аудит-логирование как корпоративную возможность первого класса, а не как дополнение, добавленное постфактум. Каждое взаимодействие с ИИ — промпты, ответы, вызовы инструментов, модель и версия, пользователь, стоимость и эскалации — фиксируется в виде структурированных, прослеживаемых записей, привязанных к идентификатору, что напрямую устраняет пробел в наблюдаемости агентов и выполняет мандат автоматического логирования Статьи 12 Закона ЕС об ИИ. Встроенный аудит вызовов инструментов и обнаружение аномалий выявляют риски чрезмерной автономии и эскалации разрешений на уровне инструментов, тогда как неизменяемое хранение соответствует требованиям подотчётности SOC 2, HIPAA и GDPR. Отчёты о соответствии сопоставляют эти доказательства с признанными фреймворками, а поддержка eDiscovery делает историю взаимодействия с ИИ доступной для поиска и предоставления в рамках правового хранения — так что подотчётность за автономный ИИ обеспечивается одной платформой, а не разрозненными инструментами наблюдаемости и управления. Это органично сочетается с [SSO и RBAC](/articles/sso-rbac-for-ai-workspaces), поскольку каждое зафиксированное действие привязано к управляемому идентификатору.
Frequently asked questions
- Почему ИИ нуждается в аудит-логировании помимо обычных журналов приложений?
- Потому что агенты ИИ выполняют реальные действия и ведут себя недетерминированно, поэтому обычные логи могут показать, что что-то пошло не так, но не почему, а идентификация зачастую неоднозначна (общие учётные записи служб). Журналы аудита ИИ фиксируют полную цепочку рассуждений — промпты, вызовы инструментов, версию модели и выводы, привязанные к пользователю, — что необходимо для подотчётности, соответствия требованиям и расследования инцидентов.
- Что должен фиксировать журнал аудита ИИ?
- Точный промпт и ответ, каждый вызов инструмента с входными и выходными данными, название и версию модели, версию промпта, извлечённый контекст, идентификатор пользователя, количество токенов и стоимость, задержку и любое событие эскалации или одобрения — хранящиеся в виде структурированных записей событий, а не просто агрегированных метрик. Поле «модель и версия» особенно важно для диагностики изменений поведения после обновлений.
- Требует ли Закон ЕС об ИИ логирования ИИ?
- Да, для ИИ-систем высокого риска. Статья 12 обязывает их автоматически фиксировать события на протяжении всего жизненного цикла системы для обеспечения прослеживаемости и мониторинга после выхода на рынок — автоматическое логирование, а не ручная документация. Другие фреймворки (принцип подотчётности GDPR, HIPAA, SOC 2, NIST AI RMF) устанавливают связанные требования к логированию и доказательной базе.
- Как долго должны храниться журналы аудита ИИ и должны ли они быть неизменяемыми?
- Срок хранения зависит от фреймворка — HIPAA требует примерно шесть лет, SOC 2 обычно ограничивается примерно двенадцатью месяцами, проверяемыми по вашей собственной политике. Неизменяемость является стандартом: хранилище только для добавления или с хеш-цепочным хранением, отдельное от порождающей системы, чтобы логи нельзя было изменить задним числом и любая фальсификация была обнаруживаемой.
- Какие фреймворки соответствия требуют логирования ИИ?
- Закон ЕС об ИИ (автоматическое логирование по Статье 12 для систем высокого риска), GDPR (принцип подотчётности и реестры операций обработки), HIPAA (контроль аудита с многолетним хранением), SOC 2 (логирование, проверяемое по вашей политике с защитой от фальсификации) и Рамочная программа управления рисками ИИ NIST (документирование и прослеживаемость на протяжении всего жизненного цикла).
- Почему традиционные инструменты наблюдаемости не охватывают агентов ИИ?
- Потому что они создавались для детерминированных систем. Агенты ИИ недетерминированы — одни и те же входные данные могут порождать разные последовательности вызовов инструментов — а их атрибуция идентификации нередко неоднозначна. Традиционные инструменты фиксируют факт сбоя, но не путь рассуждений, приведший к нему, что и является пробелом в наблюдаемости, который устраняет специфичное для ИИ аудит-логирование на уровне событий.
- Могут ли промпты и выводы чат-ботов ИИ быть истребованы в судебных разбирательствах?
- Да. Промпты и выводы ИИ квалифицируются как электронно хранимая информация, подлежащая раскрытию в ходе судебного процесса, и суды уже обязывали к предоставлению больших объёмов логов GenAI. Это делает историю взаимодействия с ИИ одновременно обязательством в рамках раскрытия и обязательством по правовому хранению — весомый аргумент в пользу того, чтобы держать её в зафиксированном, доступном для поиска и предоставления виде, а не в эфемерном.
Sources