osFoundry / Platform
उपयोग
टोकन, रन्स, डॉलर — हर लागत, श्रेणी के अनुसार, एक चार्ट में जिसे आप ड्रिल कर सकते हैं।
यह क्या है
Usage osFoundry का लागत और गतिविधि डैशबोर्ड है। चूँकि osFoundry bring-your-own-key है, आप जो मॉडल चलाते हैं उनका बिल सीधे आपके अपने प्रोवाइडर खातों में जाता है, बिना किसी रीसेलर मार्कअप के। इसका मतलब यह भी है कि यह खर्च आपके हर प्रोवाइडर कंसोल में बिखरा रहता है। Usage इसे वापस एक जगह ले आता है: यह खपत हुए टोकन, चली गई रन और हर एक की लागत दर्ज करता है, फिर उन्हें एक ही चार्ट में समेट देता है जिसे आप एक नज़र में पढ़ सकते हैं या श्रेणी के अनुसार गहराई तक खोल सकते हैं।
यह व्यू तीन इकाइयों के इर्द-गिर्द बना है जो तीन अलग-अलग सवालों के जवाब देती हैं। टोकन बताते हैं कि मॉडल ने असल में क्या प्रोसेस किया। रन बताती हैं कि कितना काम हुआ, यानी कितने चैट, एजेंट रन या जॉब गुज़रे। लागत बताती है कि इसमें कितना खर्च हुआ। इनमें से हर एक को श्रेणी के अनुसार बाँटा जाता है, ताकि एक अपारदर्शी कुल आँकड़े के बजाय आप देख सकें कि आपके वर्कस्पेस का कौन-सा हिस्सा (कौन-सा मॉडल, प्रोवाइडर या गतिविधि का प्रकार) उस संख्या को बढ़ा रहा है। चूँकि osFoundry चैट, एजेंट, ऐप्स, कोड, नॉलेज और डेटा को एक जगह समेटता है, श्रेणी-वार विभाजन वही जगह है जहाँ कोई उछाल रहस्य नहीं रह जाता: आप उस सेगमेंट पर क्लिक करते हैं जो बढ़ा और देख लेते हैं कि वह क्या था।
यह उन लोगों के लिए सबसे ज़्यादा मायने रखता है जो एक साथ कई प्रोवाइडरों के कई मॉडल चलाते हैं। लोकल मॉडल API डॉलर के बजाय कंप्यूट की लागत लेते हैं, क्लाउड और सेल्फ-होस्टेड मॉडल का बिलिंग तरीका अलग होता है, और एक ही एजेंट रन इनमें से कई को छू सकती है। Usage वह इकलौती सतह है जो इस सबको तुलना-योग्य टोकन, रन और लागत में मिलाकर पेश करती है, ताकि आप किसी बेकाबू एजेंट को पकड़ सकें, तय कर सकें कि कोई काम क्लाउड मॉडल के बजाय लोकल मॉडल पर होना चाहिए या नहीं, या बस यह जान सकें कि प्रोवाइडर का इनवॉइस आने से पहले महीने का खर्च कितना होगा। osFoundry के बाकी हिस्से की तरह यह भी local-first है, इसलिए आपने जो चलाया उसका रिकॉर्ड आपके वर्कस्पेस में ही रहता है।
मुख्य क्षमताएँ
- तीन इकाइयों को साथ-साथ ट्रैक करता है (खपत हुए टोकन, चली गई रन और लागत) ताकि आप किया गया काम और उसकी कीमत, दोनों देख सकें
- हर कुल को श्रेणी के अनुसार बाँटता है (मॉडल, प्रोवाइडर और गतिविधि का प्रकार) बजाय एक अपारदर्शी संख्या दिखाने के
- किसी भी चार्ट सेगमेंट में गहराई तक जाकर देखें कि वर्कस्पेस के किस हिस्से ने उछाल पैदा किया
- लोकल, क्लाउड और सेल्फ-होस्टेड मॉडल के खर्च को एक तुलना-योग्य व्यू में मिलाता है, जो इसलिए उपयोगी है क्योंकि BYOK बिलिंग को हर प्रोवाइडर कंसोल में बिखेर देता है
- Local-first: आपका उपयोग रिकॉर्ड आपके वर्कस्पेस में रहता है, लागत आपकी अपनी प्रोवाइडर दरों पर लगती है और कोई रीसेलर मार्कअप नहीं जुड़ता
उपयोग के मामले
- अकेला BYOK उपयोगकर्ता: बिल आने से पहले प्रोवाइडर इनवॉइस के साथ osFoundry गतिविधि का मिलान करने के लिए महीने के अंत में Usage खोलता है
- एजेंट बिल्डर: एक रन श्रेणी को बाकियों से तेज़ बढ़ते देखता है और गहराई में जाकर उस लूप को खोज निकालता है जो टोकन जला रहा है
- लागत के प्रति सजग टीम लीड: मॉडल-वार लागत की तुलना करके तय करता है कि कौन-से काम क्लाउड मॉडल से लोकल मॉडल पर ले जाने चाहिए
सामान्य प्रश्न
क्या osFoundry जो उपयोग लागत दिखाता है उस पर कोई मार्कअप जोड़ता है?
नहीं। osFoundry bring-your-own-key है, इसलिए मॉडल का बिल सीधे आपके अपने प्रोवाइडर खातों में आपकी अपनी दरों पर जाता है। Usage बताता है कि उन रन में आपको कितना खर्च आया; ऊपर से कोई रीसेलर मार्जिन नहीं जोड़ा जाता।
चार्ट में टोकन, रन और लागत में क्या फ़र्क है?
टोकन वह हैं जो मॉडल ने प्रोसेस किया, रन यह हैं कि कितने चैट/एजेंट रन/जॉब चले, और लागत खर्च है। ये तीन अलग सवालों के जवाब देते हैं (टेक्स्ट की मात्रा, काम की मात्रा और कीमत) और हर एक को श्रेणी के अनुसार बाँटा जाता है ताकि आप देख सकें कि संख्या को क्या बढ़ा रहा है।
क्या मैं देख सकता हूँ कि लागत के उछाल के लिए कौन-सा मॉडल या गतिविधि ज़िम्मेदार है?
हाँ। हर कुल श्रेणी के अनुसार बँटा होता है और चार्ट में गहराई तक जाया जा सकता है: जो सेगमेंट बढ़ा उस पर क्लिक करें और वह उसके पीछे का मॉडल, प्रोवाइडर या गतिविधि का प्रकार दिखा देता है, आपको सिर्फ़ एक कुल जोड़ के साथ नहीं छोड़ता।