osFoundry / Platform
मॉडल प्लेग्राउंड
किसी भी मॉडल को पूरे टोकन / लागत अकाउंटिंग के साथ sandbox प्रॉम्प्ट → रेस्पॉन्स इंटरफ़ेस में टेस्ट करें।
यह क्या है
Model playground osFoundry के भीतर का वह सैंडबॉक्स है जहाँ आप एक प्रॉम्प्ट टाइप करते हैं, एक मॉडल चुनते हैं, और रिस्पॉन्स के साथ यह भी देखते हैं कि उसकी लागत ठीक-ठीक कितनी रही। किसी मॉडल को चैट, एजेंट या स्वचालित लूप में लगाने से पहले उठने वाले सवालों का जवाब पाने का यह सबसे तेज़ तरीका है: क्या यह मॉडल मेरे निर्देशों का पालन करता है? उसी प्रॉम्प्ट पर इसका आउटपुट किसी दूसरे मॉडल की तुलना में कैसा है? उस जवाब ने असल में कितने टोकन खपत किए, और मुझे उसकी क्या कीमत पड़ी? चूँकि osFoundry bring-your-own-key है, इसलिए दिखाई गई लागत आपके अपने अकाउंट पर प्रोवाइडर का असली दाम है, आपके और मॉडल के बीच कोई रीसेलर मार्कअप नहीं बैठा होता।
osFoundry के भीतर playground उन्हीं मॉडल कनेक्शनों का उपयोग करता है जिन्हें आपका बाकी वर्कस्पेस इस्तेमाल करता है, इसलिए आपने जो भी मॉडल जोड़ा है उसे यहाँ परखा जा सकता है: आपकी अपनी मशीन पर चलने वाला लोकल मॉडल, आपकी अपनी API कुंजी से पहुँचा जाने वाला क्लाउड मॉडल, या आपके द्वारा सेल्फ-होस्ट किया गया मॉडल। आप एक प्रॉम्प्ट भेजते हैं, एक रिस्पॉन्स पाते हैं, और इंटरफ़ेस उस आदान-प्रदान की टोकन गणना बताता है (इनपुट में प्रॉम्प्ट टोकन, आउटपुट में कम्प्लीशन टोकन) और उनसे निकली लागत। यही playground को वह जगह बनाता है जहाँ आप किसी मॉडल के बड़े पैमाने पर असल काम करने से पहले प्रॉम्प्ट को कस लेते हैं और प्रति-रिक्वेस्ट असली अर्थशास्त्र पढ़ लेते हैं, जहाँ प्रति-कॉल का छोटा अंतर हर रन में गुणित होकर बढ़ जाता है।
एक डेस्कटॉप, local-first वर्कस्पेस होना इस बात के लिए मायने रखता है कि आप यहाँ क्या परख सकते हैं। जब आप playground को अपने ही डिवाइस पर चलते मॉडल की ओर लगाते हैं, तो प्रॉम्प्ट और रिस्पॉन्स कभी आपकी मशीन से बाहर नहीं जाते, इसलिए आप संवेदनशील या मालिकाना प्रॉम्प्ट पर किसी तीसरे पक्ष को भेजे बिना काम कर सकते हैं। वही प्रॉम्प्ट → रिस्पॉन्स → लागत का चक्र चलता है, चाहे मॉडल लोकल हो, क्लाउड हो या सेल्फ-होस्टेड, और यही आपको बहुत अलग-अलग बैकएंड के बीच गुणवत्ता और दाम पर एक ही इंटरफ़ेस से ईमानदार आमने-सामने की तुलना करने देता है।
मुख्य क्षमताएँ
- किसी भी जुड़े मॉडल (लोकल, क्लाउड या सेल्फ-होस्टेड) को प्रॉम्प्ट भेजें और एक ही सैंडबॉक्स इंटरफ़ेस में रिस्पॉन्स पढ़ें
- हर आदान-प्रदान की पूरी टोकन गणना देखें: इनपुट में प्रॉम्प्ट टोकन, आउटपुट में कम्प्लीशन टोकन
- अपने BYOK प्रोवाइडर के दाम पर प्रति-रिक्वेस्ट असली लागत पाएँ, बिना किसी रीसेलर मार्कअप के
- अपने ही डिवाइस पर लोकल मॉडल के विरुद्ध प्रॉम्प्ट आज़माएँ ताकि संवेदनशील इनपुट कभी मशीन से बाहर न जाए
- मॉडल को चैट, एजेंट या लूप में जोड़ने से पहले प्रॉम्प्ट के शब्द कस लें और असली लागत माप लें
उपयोग के मामले
- मॉडल चुनता डेवलपर: वही प्रॉम्प्ट एक लोकल मॉडल और एक क्लाउड मॉडल पर चलाएँ, फिर तय करने से पहले आउटपुट गुणवत्ता की तुलना टोकन लागत से करें
- प्रॉम्प्ट इंजीनियर: सैंडबॉक्स में शब्दों पर काम करते रहें और देखें कि हर संशोधन टोकन गिनती और लागत को कैसे बदलता है
- निजता के प्रति सजग विश्लेषक: गोपनीय डेटा वाले प्रॉम्प्ट को स्थानीय रूप से होस्ट किए मॉडल पर परखें ताकि बाहरी API को कुछ न भेजा जाए
सामान्य प्रश्न
playground में मैं कौन-से मॉडल परख सकता हूँ?
कोई भी मॉडल जिसे आपने osFoundry में जोड़ा है: आपकी मशीन पर स्थानीय रूप से चलता मॉडल, आपकी अपनी API कुंजी से पहुँचा जाने वाला क्लाउड मॉडल, या आपके द्वारा सेल्फ-होस्ट किया गया मॉडल। playground वही कनेक्शन इस्तेमाल करता है जो बाकी वर्कस्पेस करता है, इसलिए अगर आप osFoundry में कहीं और किसी मॉडल का उपयोग कर सकते हैं तो उसे यहाँ भी परख सकते हैं।
लागत कैसे गणना होती है, और क्या कोई मार्कअप है?
लागत आपकी रिक्वेस्ट की टोकन गणना को आपके प्रोवाइडर के अपने दाम पर लगाकर निकाली जाती है। osFoundry bring-your-own-key है, इसलिए आप सीधे प्रोवाइडर को भुगतान करते हैं और ऊपर से कोई रीसेलर मार्कअप नहीं जुड़ता; जो संख्या आप देखते हैं वह आपके अकाउंट पर उस कॉल का असली दाम दर्शाती है।
क्या मैं क्लाउड प्रोवाइडर को डेटा भेजे बिना निजी तौर पर प्रॉम्प्ट परख सकता हूँ?
हाँ। osFoundry एक local-first डेस्कटॉप वर्कस्पेस है। जब आप playground को अपने ही डिवाइस पर चलते मॉडल की ओर लगाते हैं, तो प्रॉम्प्ट और रिस्पॉन्स आपकी मशीन पर ही रहते हैं और किसी बाहरी सेवा को नहीं भेजे जाते, जो संवेदनशील या मालिकाना प्रॉम्प्ट पर काम करने के लिए उपयोगी है।