BYOK keys

किसी भी प्रोवाइडर के लिए अपनी खुद की API keys लाएँ। लोकल मॉडल लोकल रहते हैं, क्लाउड मॉडल आपके रहते हैं।

यह क्या है

osFoundry में हर क्लाउड मॉडल आपकी API key पर चलता है। कोई रीसेलर मार्कअप नहीं, कोई अस्पष्ट प्राइसिंग नहीं, कोई फ़ाइन-प्रिंट रेट लिमिट्स नहीं। अपना OpenAI, Anthropic, Google, xAI या कोई भी OpenAI-कम्पैटिबल एंडपॉइंट जोड़ें, और आपका बिल सीधे उनसे आता है।

लोकल मॉडल आपकी मशीन पर रहते हैं — कोई key की ज़रूरत नहीं, कोई रिक्वेस्ट डिवाइस नहीं छोड़ती। वही चैट आपके रूटिंग नियमों या वर्तमान sandbox मोड के आधार पर उनके बीच अपने आप चुनती है।

मुख्य क्षमताएँ

OpenAI, Anthropic, Google, xAI, Mistral, Voyage, Serper, Tavily, Exa
कोई भी OpenAI-कम्पैटिबल एंडपॉइंट (Together, Fireworks, OpenRouter, कस्टम)
लोकल मॉडल सीधे llama.cpp पर रूट करते हैं — कोई key नहीं चाहिए
वैकल्पिक प्रति-यूज़र ओवरराइड्स के साथ प्रति-वर्कस्पेस keys
सहेजने से पहले keys सत्यापित करें — टोकन + लागत सीमाएँ देखें

उपयोग के मामले

विनियमित संगठन जिन्हें लागत नियंत्रण + ऑडिट चाहिए
लागत-संवेदनशील टीमें जो सबसे सस्ते उपयुक्त मॉडल पर रूट करती हैं
शोधकर्ता जो एक ही प्रॉम्प्ट पर कई मॉडल्स की तुलना करते हैं