← Resources
By Leila Haddad
— Solutions Architect, Enterprise
·
· GUIDE
AI ऑडिट लॉगिंग और अनुपालन: क्या लॉग करें और क्यों
AI सिस्टम को ऐसे ऑडिट लॉग की आवश्यकता होती है जो सामान्य एप्लिकेशन लॉगिंग प्रदान नहीं करती — जवाबदेही, अनुपालन और मुकदमेबाजी के लिए। यह गाइड बताती है कि क्या लॉग करें, कौन से फ्रेमवर्क इसकी मांग करते हैं, एजेंट ऑब्जर्वेबिलिटी क्यों विशेष रूप से कठिन है, और अपरिवर्तनीयता एवं eDiscovery की वास्तविकताएं।
AI को अपनी अलग ऑडिट लॉगिंग की आवश्यकता क्यों है
AI एजेंट वास्तविक कार्रवाई करते हैं और गैर-निर्धारक रूप से व्यवहार करते हैं — एक ही प्रॉम्प्ट अलग-अलग रन में अलग-अलग टूल-कॉल अनुक्रम उत्पन्न कर सकता है — इसलिए पारंपरिक, निर्धारक ऑब्जर्वेबिलिटी यह बता सकती है कि कुछ विफल हुआ, लेकिन यह नहीं कि क्यों। इससे भी बुरी बात यह है कि पहचान का श्रेय अस्पष्ट रहता है: एजेंट अक्सर साझा सेवा खातों या तैनाती करने वाले व्यक्ति के क्रेडेंशियल्स के तहत काम करते हैं, इसलिए प्रति-कार्रवाई लॉगिंग के बिना आप किसी कार्रवाई को उस एजेंट से स्पष्ट रूप से नहीं जोड़ सकते जिसने वह की थी।
परिणामस्वरूप जहां दांव सबसे ऊंचे होते हैं, वहीं जवाबदेही का अंतराल होता है — वास्तविक सिस्टम पर स्वायत्त कार्रवाइयां। ऑडिट लॉगिंग इस अंतराल को बंद करती है, और यह तेजी से वैकल्पिक नहीं रह गई है: यह वह साक्ष्य है जो नियामक, ऑडिटर और अदालतें मांगती हैं। (यह हमारे [एजेंट गार्डरेल्स गाइड](/articles/autonomous-agent-guardrails) में शामिल अत्यधिक-एजेंसी जोखिमों को भी उजागर करती है।)
क्या लॉग करें
एप्लिकेशन लॉग अनुरोध रिकॉर्ड करते हैं; AI ऑडिट लॉग को तर्क श्रृंखला रिकॉर्ड करनी होती है। संरचित ईवेंट रिकॉर्ड के रूप में (न कि समग्र मेट्रिक्स के रूप में) कैप्चर करें: सटीक प्रॉम्प्ट और प्रतिक्रिया, इनपुट और आउटपुट के साथ प्रत्येक टूल कॉल, मॉडल का नाम और वर्शन, प्रॉम्प्ट वर्शन, पुनर्प्राप्त संदर्भ, उपयोगकर्ता पहचान, टोकन गिनती और लागत, विलंबता, तथा कोई भी एस्केलेशन या मानव-अनुमोदन ईवेंट।
मॉडल-और-वर्शन फ़ील्ड लोगों की अपेक्षा से अधिक महत्वपूर्ण है — जब मॉडल अपग्रेड के बाद व्यवहार बदलता है, तो आपको लॉग की आवश्यकता होती है जो दिखाए कि किस वर्शन ने कौन सा आउटपुट उत्पन्न किया। प्रत्येक रिकॉर्ड को एक पहचान से जोड़ें ताकि ट्रेल इस सवाल का जवाब दे: "किसने क्या किया, किस मॉडल से, कब।"
जो फ्रेमवर्क इसकी मांग करते हैं
कई नियामक व्यवस्थाएं अब AI लॉगिंग को एक आवश्यकता बनाती हैं, न कि एक सुविधा। EU AI Act (आर्टिकल 12) उच्च-जोखिम AI सिस्टम को ट्रेसेबिलिटी के लिए सिस्टम के जीवनकाल में स्वचालित रूप से ईवेंट रिकॉर्ड करने की आवश्यकता है। GDPR का जवाबदेही सिद्धांत आपको दस्तावेजी साक्ष्य के साथ अनुपालन प्रदर्शित करने के लिए बाध्य करता है। HIPAA संरक्षित स्वास्थ्य डेटा को छूने वाले सिस्टम पर बहु-वर्षीय रिटेंशन के साथ ऑडिट नियंत्रण अनिवार्य करता है। SOC 2 कोई अवधि निर्धारित नहीं करता लेकिन आपकी अपनी नीति के विरुद्ध आपका ऑडिट करता है और छेड़छाड़-साक्ष्य की अपेक्षा रखता है। और NIST AI Risk Management Framework जीवनचक्र में दस्तावेजीकरण, ऑडिटेबिलिटी और ट्रेसेबिलिटी पर जोर देता है — जिसमें मॉडल-परिवर्तन और डेटा-वर्शनिंग लॉग शामिल हैं।
सामान्य सूत्र: स्वचालित रूप से लॉग करें, पहचान से जोड़ें, और उत्पन्न करने में सक्षम रहें।
अपरिवर्तनीयता और रिटेंशन
जिन लॉग को आप चुपचाप संपादित कर सकते हैं, वे साक्ष्य नहीं हैं। मानक है अपरिवर्तनीयता — अपेंड-ओनली या राइट-वन्स स्टोरेज, या क्रिप्टोग्राफिक हैश-चेनिंग जहां प्रत्येक प्रविष्टि पिछली को हैश करती है ताकि कोई भी छेड़छाड़ पहचानी जा सके — जिसे उस सिस्टम से अलग रखा जाए जिसने इसे उत्पन्न किया, ताकि प्रशासक भी इसे पूर्वव्यापी रूप से परिवर्तित न कर सकें।
रिटेंशन व्यवस्था के अनुसार भिन्न होता है: HIPAA लगभग छह वर्षों की अपेक्षा रखता है, जबकि SOC 2 सामान्यतः लगभग बारह महीनों पर डिफॉल्ट करता है (सक्रिय जांच के लिए हॉट विंडो के साथ), आपकी बताई गई नीति के विरुद्ध ऑडिट किया जाता है। रिटेंशन उस सबसे सख्त फ्रेमवर्क पर सेट करें जिसके अधीन आप हैं, और सुनिश्चित करें कि स्टोरेज इसे लागू करे न कि प्रक्रिया पर निर्भर रहे।
ऑब्जर्वेबिलिटी अंतराल और eDiscovery
दो नई दबाव AI लॉगिंग को आकार देते हैं। पहला, मानक: OpenTelemetry GenAI सिमेंटिक कन्वेंशन AI टेलीमेट्री के लिए एक सामान्य स्कीमा के रूप में उभर रहे हैं — मॉडल कॉल, टोकन उपयोग और एजेंट चरणों के लिए एट्रिब्यूट नाम मानकीकरण — ताकि लॉग एक विक्रेता तक सीमित न रहें। स्थिर लॉग अकेले जो नहीं पहचान सकते — नीति-विरोधी टूल उपयोग और अनुमति एस्केलेशन — उसे पकड़ने के लिए लॉगिंग के साथ विसंगति पहचान को जोड़ें।
दूसरा, मुकदमेबाजी: AI प्रॉम्प्ट और आउटपुट इलेक्ट्रॉनिक रूप से संग्रहीत खोज योग्य जानकारी है, और अदालतें पहले से ही GenAI लॉग की बड़ी मात्रा प्रस्तुत करने के लिए बाध्य कर चुकी हैं। यह दोनों तरफ से काम करता है — आपका AI इंटरेक्शन इतिहास एक खोज देयता और एक कानूनी-होल्ड दायित्व है, जिसका अर्थ है कि आपको इसे खोज योग्य और उत्पादन योग्य रखना होगा, न कि सिस्टम में बिखरा हुआ।
osFoundry में ऑडिट लॉगिंग
osFoundry ऑडिट लॉगिंग को एक प्रथम-श्रेणी एंटरप्राइज़ क्षमता मानता है, न कि एक अतिरिक्त जोड़। प्रत्येक AI इंटरेक्शन — प्रॉम्प्ट, प्रतिक्रियाएं, टूल कॉल, मॉडल और वर्शन, उपयोगकर्ता, लागत और एस्केलेशन — को संरचित, ट्रेसेबल रिकॉर्ड के रूप में पहचान से जोड़कर कैप्चर किया जाता है, जो सीधे एजेंट ऑब्जर्वेबिलिटी अंतराल और EU AI Act की स्वचालित-लॉगिंग अनिवार्यता को संबोधित करता है। बिल्ट-इन टूल-कॉल ऑडिटिंग और विसंगति पहचान टूल परत पर अत्यधिक-एजेंसी और अनुमति-एस्केलेशन जोखिमों को उजागर करते हैं, जबकि अपरिवर्तनीय रिटेंशन SOC 2, HIPAA और GDPR जवाबदेही अपेक्षाओं का समर्थन करती है। अनुपालन रिपोर्ट इस साक्ष्य को मान्यता प्राप्त फ्रेमवर्क से मैप करती हैं, और eDiscovery समर्थन AI इंटरेक्शन इतिहास को कानूनी होल्ड के लिए खोज योग्य और उत्पादन योग्य बनाता है — ताकि स्वायत्त AI की जवाबदेही बिखरे हुए ऑब्जर्वेबिलिटी और गवर्नेंस टूल की जगह एक प्लेटफ़ॉर्म से आए। यह स्वाभाविक रूप से [SSO और RBAC](/articles/sso-rbac-for-ai-workspaces) के साथ जुड़ता है, क्योंकि प्रत्येक लॉग की गई कार्रवाई एक शासित पहचान से जुड़ती है।
Frequently asked questions
- AI को सामान्य एप्लिकेशन लॉग से परे ऑडिट लॉगिंग की आवश्यकता क्यों है?
- क्योंकि AI एजेंट वास्तविक कार्रवाई करते हैं और गैर-निर्धारक रूप से व्यवहार करते हैं, इसलिए सामान्य लॉग दिखा सकते हैं कि कुछ विफल हुआ लेकिन क्यों नहीं, और पहचान अक्सर अस्पष्ट रहती है (साझा सेवा खाते)। AI ऑडिट लॉग पूरी तर्क श्रृंखला रिकॉर्ड करते हैं — प्रॉम्प्ट, टूल कॉल, मॉडल वर्शन, और उपयोगकर्ता से जुड़े आउटपुट — जो जवाबदेही, अनुपालन और घटना जांच के लिए आवश्यक है।
- AI ऑडिट लॉग में क्या कैप्चर किया जाना चाहिए?
- सटीक प्रॉम्प्ट और प्रतिक्रिया, इनपुट और आउटपुट के साथ प्रत्येक टूल कॉल, मॉडल का नाम और वर्शन, प्रॉम्प्ट वर्शन, पुनर्प्राप्त संदर्भ, उपयोगकर्ता पहचान, टोकन गिनती और लागत, विलंबता, तथा कोई भी एस्केलेशन या अनुमोदन ईवेंट — संरचित ईवेंट रिकॉर्ड के रूप में संग्रहीत, न कि केवल समग्र मेट्रिक्स। अपग्रेड के बाद व्यवहार परिवर्तनों का निदान करने के लिए मॉडल-और-वर्शन फ़ील्ड विशेष रूप से महत्वपूर्ण है।
- क्या EU AI Act AI लॉगिंग की मांग करता है?
- हां, उच्च-जोखिम AI सिस्टम के लिए। आर्टिकल 12 उन्हें ट्रेसेबिलिटी और बाजार-पश्चात निगरानी सक्षम करने के लिए सिस्टम के जीवनकाल में स्वचालित रूप से ईवेंट रिकॉर्ड करने की आवश्यकता है — स्वचालित लॉगिंग, न कि मैन्युअल दस्तावेजीकरण। अन्य फ्रेमवर्क (GDPR जवाबदेही, HIPAA, SOC 2, NIST AI RMF) संबंधित लॉगिंग और साक्ष्य दायित्व लागू करते हैं।
- AI ऑडिट लॉग कितने समय तक बनाए रखने चाहिए, और क्या वे अपरिवर्तनीय होने चाहिए?
- रिटेंशन फ्रेमवर्क पर निर्भर करती है — HIPAA लगभग छह वर्षों की अपेक्षा रखता है, SOC 2 सामान्यतः आपकी अपनी नीति के विरुद्ध ऑडिट किए जाने वाले लगभग बारह महीनों पर डिफॉल्ट करता है। अपरिवर्तनीयता मानक है: उत्पन्न करने वाले सिस्टम से अलग रखा गया अपेंड-ओनली या हैश-चेन स्टोरेज, ताकि लॉग पूर्वव्यापी रूप से परिवर्तित न हो सकें और कोई भी छेड़छाड़ पहचानी जा सके।
- कौन से अनुपालन फ्रेमवर्क AI लॉगिंग की मांग करते हैं?
- EU AI Act (उच्च-जोखिम सिस्टम के लिए आर्टिकल 12 स्वचालित लॉगिंग), GDPR (जवाबदेही सिद्धांत और प्रसंस्करण के रिकॉर्ड), HIPAA (बहु-वर्षीय रिटेंशन के साथ ऑडिट नियंत्रण), SOC 2 (छेड़छाड़-साक्ष्य के साथ आपकी नीति के विरुद्ध ऑडिट की गई लॉगिंग), और NIST AI Risk Management Framework (जीवनचक्र में दस्तावेजीकरण और ट्रेसेबिलिटी)।
- पारंपरिक ऑब्जर्वेबिलिटी टूल AI एजेंट को क्यों कवर नहीं करते?
- क्योंकि वे निर्धारक सिस्टम के लिए बनाए गए थे। AI एजेंट गैर-निर्धारक हैं — एक ही इनपुट अलग-अलग टूल-कॉल अनुक्रम उत्पन्न कर सकता है — और उनकी पहचान का श्रेय अक्सर अस्पष्ट होता है। पारंपरिक टूल कैप्चर करते हैं कि विफलता हुई लेकिन वह तर्क पथ नहीं जो वहां ले गया, जो ऑब्जर्वेबिलिटी अंतराल है जिसे AI-विशिष्ट, ईवेंट-स्तरीय ऑडिट लॉगिंग भरती है।
- क्या AI चैटबॉट प्रॉम्प्ट और आउटपुट मुकदमों में खोजे जा सकते हैं?
- हां। AI प्रॉम्प्ट और आउटपुट खोज के अधीन इलेक्ट्रॉनिक रूप से संग्रहीत जानकारी के रूप में अर्हता प्राप्त करते हैं, और अदालतें पहले से ही GenAI लॉग की बड़ी मात्रा प्रस्तुत करने के लिए बाध्य कर चुकी हैं। इससे आपका AI इंटरेक्शन इतिहास एक खोज देयता और एक कानूनी-होल्ड दायित्व दोनों बन जाता है — अल्पकालिक रखने के बजाय इसे लॉग, खोज योग्य और उत्पादन योग्य रखने का एक मजबूत कारण।
Sources