← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
KI-Audit-Logging und Compliance: Was zu protokollieren ist und warum
KI-Systeme brauchen Audit-Logs, die herkömmliches Anwendungs-Logging nicht bietet — für Verantwortlichkeit, Compliance und Rechtsstreitigkeiten. Dieser Leitfaden behandelt, was zu protokollieren ist, welche Regelwerke es vorschreiben, warum die Beobachtbarkeit von Agenten besonders anspruchsvoll ist, sowie die Realitäten rund um Unveränderlichkeit und eDiscovery.
Warum KI ein eigenes Audit-Logging braucht
KI-Agenten führen reale Aktionen aus und verhalten sich nicht deterministisch — derselbe Prompt kann in verschiedenen Durchläufen unterschiedliche Tool-Aufruf-Sequenzen erzeugen — daher kann herkömmliche, deterministische Beobachtbarkeit zwar anzeigen, dass etwas gescheitert ist, aber nicht warum. Erschwerend kommt hinzu, dass die Identitätszuordnung unklar ist: Agenten agieren häufig unter gemeinsam genutzten Dienstkonten oder mit den Anmeldedaten des bereitstellenden Menschen, sodass sich ohne Protokollierung pro Aktion eine Aktion nicht eindeutig dem ausführenden Agenten zuordnen lässt.
Das Ergebnis ist eine Verantwortungslücke genau dort, wo die Risiken am größten sind — autonome Aktionen auf realen Systemen. Audit-Logging schließt diese Lücke, und es ist zunehmend keine Option mehr: Es ist der Nachweis, den Aufsichtsbehörden, Prüfer und Gerichte verlangen. (Es deckt auch die Risiken übermäßiger Eigenständigkeit auf, die in unserem [Leitfaden zu Agenten-Schutzmaßnahmen](/articles/autonomous-agent-guardrails) behandelt werden.)
Was zu protokollieren ist
Anwendungsprotokolle erfassen Anfragen; KI-Audit-Logs müssen die Argumentationskette festhalten. Erfassen Sie — als strukturierte Ereignisdatensätze statt als aggregierte Metriken — den genauen Prompt und die Antwort, jeden Tool-Aufruf mit seinen Ein- und Ausgaben, den Modellnamen und die Version, die Prompt-Version, den abgerufenen Kontext, die Benutzeridentität, Token-Anzahl und Kosten, die Latenz sowie alle Eskalations- oder Genehmigungsereignisse durch Menschen.
Das Feld für Modell und Version ist wichtiger als oft angenommen — wenn sich das Verhalten nach einem Modell-Update ändert, brauchen Sie die Logs, um nachvollziehen zu können, welche Version welche Ausgabe erzeugt hat. Verknüpfen Sie jeden Eintrag mit einer Identität, damit die Spur die Frage beantwortet: "Wer hat was, mit welchem Modell, wann getan?"
Die Regelwerke, die es vorschreiben
Mehrere Regelwerke machen KI-Logging mittlerweile zur Pflicht, nicht zur Kür. Der EU AI Act (Artikel 12) verlangt, dass KI-Systeme mit hohem Risiko Ereignisse über die gesamte Lebensdauer des Systems automatisch aufzeichnen, um Rückverfolgbarkeit zu gewährleisten. Der Rechenschaftspflichtgrundsatz der DSGVO verpflichtet Sie, die Einhaltung durch dokumentierte Nachweise zu belegen. HIPAA schreibt Auditkontrollen für Systeme vor, die geschützte Gesundheitsdaten verarbeiten, mit mehrjähriger Aufbewahrung. SOC 2 schreibt keinen Zeitraum vor, prüft Sie jedoch an Ihrer eigenen Richtlinie und erwartet Manipulationssicherheit. Und das NIST AI Risk Management Framework betont Dokumentation, Prüfbarkeit und Rückverfolgbarkeit — einschließlich Protokollen zu Modelländerungen und Datenversionierung — über den gesamten Lebenszyklus.
Der gemeinsame Nenner: automatisch protokollieren, an eine Identität knüpfen und in der Lage sein, die Nachweise zu liefern.
Unveränderlichkeit und Aufbewahrung
Logs, die sich still und heimlich bearbeiten lassen, sind keine Beweise. Der Standard ist Unveränderlichkeit — Nur-Anhänge-Speicher (append-only) oder Einmalspeicherung, oder kryptografische Hash-Verkettung, bei der jeder Eintrag den Hash des vorherigen enthält, sodass jede Manipulation erkennbar ist — aufbewahrt getrennt von dem System, das sie erzeugt hat, damit selbst Administratoren sie nicht nachträglich verändern können.
Die Aufbewahrungsfristen variieren je nach Regelwerk: HIPAA erwartet ungefähr sechs Jahre, während SOC 2 häufig etwa zwölf Monate vorsieht (mit einem aktiven Fenster für laufende Untersuchungen), geprüft an der eigenen Richtlinie. Legen Sie die Aufbewahrungsfrist gemäß dem strengsten Regelwerk fest, dem Sie unterliegen, und stellen Sie sicher, dass der Speicher sie durchsetzt, anstatt auf Prozesse zu vertrauen.
Die Beobachtbarkeitslücke und eDiscovery
Zwei neuere Entwicklungen prägen das KI-Audit-Logging. Erstens die Standards: Die OpenTelemetry GenAI Semantic Conventions etablieren sich als gemeinsames Schema für KI-Telemetrie — sie standardisieren Attributnamen für Modellaufrufe, Token-Nutzung und Agentenschritte — sodass Logs nicht an einen einzigen Anbieter gebunden sind. Kombinieren Sie Logging mit Anomalieerkennung, um richtlinienwidrige Tool-Nutzung und Berechtigungseskalationen zu identifizieren, die statische Logs allein nicht kennzeichnen würden.
Zweitens Rechtsstreitigkeiten: KI-Prompts und -Ausgaben sind elektronisch gespeicherte Informationen, die der Offenlegungspflicht unterliegen, und Gerichte haben bereits die Herausgabe großer Mengen von GenAI-Logs angeordnet. Das hat zwei Seiten — Ihre KI-Interaktionshistorie ist sowohl eine Offenlegungshaftung als auch eine rechtliche Aufbewahrungspflicht, was bedeutet, dass Sie sie durchsuchbar und reproduzierbar benötigen, nicht über Systeme verstreut.
Audit-Logging in osFoundry
osFoundry behandelt Audit-Logging als erstklassige Unternehmensfunktion, nicht als nachträglichen Zusatz. Jede KI-Interaktion — Prompts, Antworten, Tool-Aufrufe, Modell und Version, Benutzer, Kosten und Eskalationen — wird als strukturierte, rückverfolgbare Datensätze erfasst, die an eine Identität gebunden sind, und adressiert damit direkt die Agenten-Beobachtbarkeitslücke sowie das Mandat zur automatischen Protokollierung aus Artikel 12 des EU AI Acts. Das integrierte Tool-Aufruf-Auditing und die Anomalieerkennung decken Risiken durch übermäßige Eigenständigkeit und Berechtigungseskalationen auf Tool-Ebene auf, während die unveränderliche Aufbewahrung die Rechenschaftspflicht-Anforderungen von SOC 2, HIPAA und DSGVO unterstützt. Compliance-Berichte ordnen diese Nachweise anerkannten Regelwerken zu, und die eDiscovery-Unterstützung macht die KI-Interaktionshistorie für die rechtliche Aufbewahrung durchsuchbar und reproduzierbar — sodass die Verantwortlichkeit für autonome KI aus einer einzigen Plattform hervorgeht, statt aus zusammengefügten Beobachtbarkeits- und Governance-Tools. Es ergänzt sich auf natürliche Weise mit [SSO und RBAC](/articles/sso-rbac-for-ai-workspaces), da jede protokollierte Aktion auf eine geregelte Identität zurückgeführt werden kann.
Frequently asked questions
- Warum braucht KI ein Audit-Logging über normale Anwendungsprotokolle hinaus?
- Weil KI-Agenten reale Aktionen ausführen und sich nicht deterministisch verhalten, sodass gewöhnliche Logs zwar anzeigen können, dass etwas gescheitert ist, aber nicht warum, und die Identität ist oft mehrdeutig (gemeinsam genutzte Dienstkonten). KI-Audit-Logs zeichnen die vollständige Argumentationskette auf — Prompts, Tool-Aufrufe, Modellversion und Ausgaben, die einem Benutzer zugeordnet sind — was Verantwortlichkeit, Compliance und Vorfallsuntersuchungen erfordern.
- Was sollte ein KI-Audit-Log erfassen?
- Den genauen Prompt und die Antwort, jeden Tool-Aufruf mit Ein- und Ausgaben, den Modellnamen und die Version, die Prompt-Version, den abgerufenen Kontext, die Benutzeridentität, Token-Anzahl und Kosten, die Latenz sowie alle Eskalations- oder Genehmigungsereignisse — gespeichert als strukturierte Ereignisdatensätze, nicht nur als aggregierte Metriken. Das Feld für Modell und Version ist besonders wichtig, um Verhaltensänderungen nach Updates zu diagnostizieren.
- Schreibt der EU AI Act eine KI-Protokollierung vor?
- Ja, für KI-Systeme mit hohem Risiko. Artikel 12 verlangt, dass diese Ereignisse automatisch über die gesamte Lebensdauer des Systems aufzeichnen, um Rückverfolgbarkeit und Überwachung nach dem Inverkehrbringen zu ermöglichen — automatische Protokollierung, keine manuelle Dokumentation. Andere Regelwerke (DSGVO-Rechenschaftspflicht, HIPAA, SOC 2, NIST AI RMF) stellen verwandte Protokollierungs- und Nachweispflichten auf.
- Wie lange müssen KI-Audit-Logs aufbewahrt werden, und müssen sie unveränderlich sein?
- Die Aufbewahrung hängt vom Regelwerk ab — HIPAA erwartet ungefähr sechs Jahre, SOC 2 sieht häufig etwa zwölf Monate vor, geprüft an der eigenen Richtlinie. Unveränderlichkeit ist der Standard: Nur-Anhänge-Speicher oder Hash-Verkettung, getrennt vom erzeugenden System aufbewahrt, sodass Logs nicht nachträglich verändert werden können und jede Manipulation erkennbar ist.
- Welche Compliance-Regelwerke schreiben KI-Logging vor?
- Der EU AI Act (automatische Protokollierung gemäß Artikel 12 für Hochrisikosysteme), die DSGVO (der Rechenschaftspflichtgrundsatz und Verarbeitungsverzeichnisse), HIPAA (Auditkontrollen mit mehrjähriger Aufbewahrung), SOC 2 (Logging, geprüft an der eigenen Richtlinie mit Manipulationssicherheit) und das NIST AI Risk Management Framework (Dokumentation und Rückverfolgbarkeit über den gesamten Lebenszyklus).
- Warum decken herkömmliche Beobachtbarkeitstools KI-Agenten nicht ab?
- Weil sie für deterministische Systeme entwickelt wurden. KI-Agenten sind nicht deterministisch — dieselbe Eingabe kann unterschiedliche Tool-Aufruf-Sequenzen erzeugen — und ihre Identitätszuordnung ist oft mehrdeutig. Herkömmliche Tools erfassen, dass ein Fehler aufgetreten ist, aber nicht den Argumentationspfad, der dazu geführt hat, was die Beobachtbarkeitslücke ist, die KI-spezifisches, ereignisbasiertes Audit-Logging schließt.
- Sind Prompts und Ausgaben von KI-Chatbots in Rechtsstreitigkeiten offenlegungspflichtig?
- Ja. KI-Prompts und -Ausgaben gelten als elektronisch gespeicherte Informationen, die der Offenlegungspflicht unterliegen, und Gerichte haben bereits die Herausgabe großer Mengen von GenAI-Logs angeordnet. Das macht Ihre KI-Interaktionshistorie sowohl zu einer Offenlegungshaftung als auch zu einer rechtlichen Aufbewahrungspflicht — ein starkes Argument dafür, sie protokolliert, durchsuchbar und reproduzierbar zu halten, statt flüchtig.
Sources