osFoundry / Platform
मेमोरी एक्सट्रैक्शन
Maestro हर बातचीत से टिकाऊ मेमोरीज़ निकालता है — तथ्य, निर्णय, प्राथमिकताएँ।
यह क्या है
मेमोरी एक्सट्रैक्शन वह तरीका है जिससे osFoundry का Maestro क्षणिक चैट को टिकाऊ, दोबारा इस्तेमाल होने लायक ज्ञान में बदलता है। जब कोई बातचीत कॉम्पैक्ट होती है, तब Maestro उस आदान-प्रदान की समीक्षा करता है और वही निकालता है जो वाकई रखने लायक है: बताए गए तथ्य (\"हमारा स्टैक Postgres है\"), निर्णय और उनके पीछे की वजहें, व्यक्तिगत और टीम की प्राथमिकताएँ, बाधाएँ (\"स्टेजिंग डेटाबेस मत छुओ\"), और वह सब कुछ जिसे याद रखने को आप साफ़ तौर पर कहते हैं। हर निकाली गई मेमोरी एक प्रकार, एक महत्व स्कोर और टैग के साथ संग्रहीत होती है, ताकि उसे फ़िल्टर करके पुनर्प्राप्त किया जा सके, न कि कॉन्टेक्स्ट विंडो हटते ही वह खो जाए।\n\nosFoundry के भीतर, एक्सट्रैक्शन को सस्ता और लागत के मामले में ईमानदार बनाया गया है। यह कॉम्पैक्शन के बाद बैकग्राउंड में (fire-and-forget) चलता है, और किसी मॉडल को बुलाने से पहले आपके अपने शब्दों पर एक तेज़ सैलिएंस जाँच लगाता है - यह देखते हुए कि टिकाऊ तथ्य असल में किस आकार में आता है, जैसे बताई गई पहचान, कोई प्राथमिकता, कोई निर्णय, या \"अब से\" वाला निर्देश। जिन टर्न में याद रखने लायक कुछ नहीं होता, वे मॉडल तक कभी नहीं पहुँचते, इसलिए एक्सट्रैक्शन हर संदेश पर चुपचाप आपकी API की चाबी पर बिल नहीं लगाता। जब यह चलता है, तो यह उसी मॉडल चेन का उपयोग करता है जिसे आपने memory_extraction पाइपलाइन रोल के लिए कॉन्फ़िगर किया है: कोई भी लोकल, क्लाउड या सेल्फ-होस्टेड मॉडल जिसके लिए आप अपनी चाबी लाते हैं, बिना किसी रीसेलर मार्कअप के। फिर एक महत्व सीमा किसी भी चीज़ के लिखे जाने से पहले कम मूल्य वाले उम्मीदवारों को छान देती है।\n\nस्टोरेज डिज़ाइन से ही लोकल-फर्स्ट है। निकाली गई मेमोरी पहले डिवाइस-पर मौजूद स्टोर को सौंपी जाती है - local_memories टेबल कभी क्लाउड से सिंक नहीं होती - और तभी, अगर आपका अकाउंट है और आप ऑनलाइन हैं, उन्हें एम्बेड करके वर्कस्पेस मेमोरी स्टोर में मिरर किया जाता है। यह क्रम जानबूझकर है: पूरी तरह लोकल या ऑफ़लाइन चलाने वाले उपयोगकर्ता को भी हर मेमोरी मिलती है, और लगभग एक जैसे तथ्य लिखते समय ही डिडुप्लिकेट कर दिए जाते हैं। बाद में एजेंट और Maestro इन मेमोरी को सिमैंटिक सर्च के ज़रिए याद करते हैं: क्वेरी एम्बेड होती है, मेमोरी स्टोर से मिलान होता है, और हर मैच अपने स्वयं के उद्धरण-योग्य memory:// पते के साथ लौटता है, ताकि आप ठीक-ठीक देख सकें कि किस याद किए गए तथ्य ने उत्तर को आकार दिया। पूरा रास्ता प्लगेबल भी है - आप अपना कस्टम memory_extractor बाँध सकते हैं, और osFoundry का नेटिव एक्सट्रैक्टर फ़ॉलबैक के रूप में काम करता है।
मुख्य क्षमताएँ
- कॉम्पैक्शन के बाद हर बातचीत से टिकाऊ मेमोरी निकालता है: बताए गए तथ्य, निर्णय और उनकी वजहें, प्राथमिकताएँ, बाधाएँ, और \"इसे याद रखो\" के स्पष्ट अनुरोध।
- किसी भी मॉडल कॉल से पहले एक सस्ता सैलिएंस गेट चलाता है, ताकि एक्सट्रैक्शन आपकी अपनी API चाबी केवल उन टर्न पर खर्च करे जिनमें संभवतः रखने लायक कुछ हो, न कि हर आदान-प्रदान पर।
- memory_extraction रोल के लिए आपकी अपनी BYOK मॉडल चेन का उपयोग करता है, लोकल या क्लाउड, और अपनी कॉल पर कोई रीसेलर मार्कअप नहीं लगाता।
- लोकल-फर्स्ट स्टोरेज: निकाली गई मेमोरी पहले डिवाइस-पर स्टोर में लिखी जाती है (कभी क्लाउड से सिंक नहीं होती), इसलिए ऑफ़लाइन या बिना अकाउंट के भी बनी रहती है।
- हर मेमोरी को महत्व और प्रकार के आधार पर स्कोर करता है, लगभग एक जैसे तथ्यों को डिडुप्लिकेट करता है, और बाद में उद्धरण-योग्य memory:// स्रोतों के साथ सिमैंटिक सर्च से पुनर्प्राप्त करने योग्य बनाता है।
उपयोग के मामले
- परामर्श देने वाला इंजीनियर: Maestro याद रखता है कि एक क्लाइंट ने DynamoDB के बजाय Postgres पर ज़ोर दिया था और क्यों, इसलिए हफ़्तों बाद एजेंट तय हो चुके निर्णय पर दोबारा बहस नहीं करता।
- गोपनीयता के प्रति सजग शोधकर्ता: प्राथमिकताएँ और प्रोजेक्ट के तथ्य उस डिवाइस-पर मेमोरी स्टोर में रहते हैं जो कभी क्लाउड से सिंक नहीं होता, आपकी अपनी चाबियों पर पूरी तरह ऑफ़लाइन उपयोग योग्य।
- सम्मेलन मानकीकृत करने वाला टीम लीड: जैसे ही आप कहते हैं \"हमारी टीम टैब पसंद करती है\" या \"माइग्रेशन फ़ाइलें मत छुओ\", वह बाधा पकड़ ली जाती है और आगे के काम में सामने आती है।
सामान्य प्रश्न
क्या मेमोरी एक्सट्रैक्शन मेरी बातचीत osFoundry के सर्वर पर भेजता है?
नहीं। निकाली गई मेमोरी पहले डिवाइस-पर स्टोर में लिखी जाती है, और वह लोकल मेमोरी टेबल कभी क्लाउड से सिंक नहीं होती। केवल तभी, जब आपका अकाउंट हो और आप ऑनलाइन हों, मेमोरी को अतिरिक्त रूप से एम्बेड करके आपके अपने वर्कस्पेस मेमोरी स्टोर में मिरर किया जाता है। एक्सट्रैक्शन का मॉडल कॉल खुद उसी चाबी पर चलता है जो आप लाते हैं - osFoundry के सर्वर आपकी ओर से कभी किसी LLM को नहीं बुलाते।
क्या यह हर संदेश के बाद एक महँगा AI कॉल चलाता है?
नहीं। एक्सट्रैक्शन केवल बातचीत कॉम्पैक्ट होने के बाद होता है, और तब भी पहले एक सस्ता सैलिएंस गेट चलता है - आपके संदेश पर एक तेज़ पैटर्न जाँच, जो बताई गई प्राथमिकताओं, निर्णयों या \"इसे याद रखो\" जैसी बात खोजती है। सामान्य कामकाजी बातचीत किसी भी मॉडल कॉल से पहले छोड़ दी जाती है, इसलिए उन टर्न पर आपकी API चाबी पर बिल नहीं लगता जिनमें रखने लायक कुछ नहीं होता।
एक बार निकाली गई मेमोरी को Maestro कैसे उपयोग करता है?
मेमोरी एक प्रकार, महत्व स्कोर और टैग के साथ संग्रहीत होती है, फिर सिमैंटिक सर्च के ज़रिए पुनर्प्राप्त करने योग्य बनाई जाती है। जब प्रासंगिक हो, एजेंट एक क्वेरी एम्बेड करता है, मेमोरी स्टोर में खोजता है, और मिलते-जुलते तथ्य वापस लाता है - हर एक उद्धरण-योग्य memory:// स्रोत के साथ, ताकि आप ट्रेस कर सकें कि किस याद किए गए विवरण ने उत्तर को आकार दिया। memory_extraction मॉडल आप osFoundry की BYOK पाइपलाइन रोल्स से चुनते हैं।