Home / Features / Run any model / BYOK cloud API
osFoundry में BYOK Anthropic, OpenAI, Google, और कोई भी cloud API
osFoundry आपको Anthropic Claude, OpenAI GPT, Google Gemini, Mistral, Together, Groq, DeepSeek, और किसी भी OpenAI-compatible provider के लिए अपनी keys लाने (BYOK) देता है। Keys आपके encrypted keychain में stored हैं, source code या logs में कभी नहीं। आपके provider account को directly bill किया जाता है — osFoundry tokens पर zero markup जोड़ता है।
संक्षिप्त उत्तर
- किसी भी provider API key को BYOK dialog में paste करें — at rest encrypted।
- आपकी key से Models auto-discovered होते हैं और catalog में जोड़े जाते हैं।
- कोई token markup नहीं — आपका provider आपको directly bills करता है।
- Per request, per agent, या osStudio में routing rules के माध्यम से models switch करें।
मुख्य क्षमताएँ
- Anthropic, OpenAI, Google AI Studio + Vertex, Mistral, Together, Groq, DeepSeek, Cohere के लिए Pre-built provider integrations।
- कोई भी OpenAI-compatible endpoint seconds में जोड़ता है (base URL + key)।
- आपकी key से available models की Auto-discovery।
- Per-workspace key isolation — कोई key workspace boundaries पार नहीं करती।
- Auto-fallback chain: यदि आपका primary model 429s करता है, तो next configured model पर retry करें।
- Live model dispatch — Maestro आपके routing rules के माध्यम से per request model pick करता है।
osFoundry में कैसे करें
- BYOK key dialog खोलें — Maestro chat panel में key icon Click करें या Settings → Models → BYOK खोलें।
- अपनी provider key Paste करें — एक provider pick करें, key paste करें। osFoundry इसे validate करता है और आपके account पर available models list करता है।
- एक Maestro role को Assign करें — Pipeline tab में, discovered model को Maestro के roles (router, direct, orchestrator, fallback) में से एक को assign करें। यह हर chat में live है।
उपयोग के मामले
- मौजूदा Anthropic spend वाली team: एक मौजूदा Anthropic key को osFoundry में plug करें। Spending आपके Anthropic invoice पर जारी रहती है; osFoundry कोई markup नहीं जोड़ता। Maestro शीर्ष पर orchestrator बन जाता है।
- Cost-sensitive solo dev: Cheap low-latency inference के लिए Groq के लिए BYOK, कठिन reasoning के लिए Anthropic के लिए BYOK। Routing rules 90% traffic Groq को और केवल कठिन tail Claude को भेजते हैं।
सामान्य प्रश्न
क्या BYOK free है?
हाँ — अपनी key लाने में osFoundry में कुछ अतिरिक्त नहीं लगता। आप केवल token usage के लिए अपने provider को pay करते हैं।
मेरी API keys कहाँ stored हैं?
आपके local OS keychain में (macOS Keychain, Windows Credential Manager, Linux Secret Service)। Cloud workspaces के लिए, keys workspace-controlled keys के साथ encrypted होती हैं।
क्या मैं अपने सभी workspaces में एक provider key उपयोग कर सकता हूँ?
Isolation के लिए हर workspace के पास अपना key store है। यदि आवश्यक हो तो एक key को कई workspaces में copy करें।
मेरी key की rate limit hit होने पर क्या होता है?
osFoundry chat में error surface करता है और (यदि configured है) आपके routing rules द्वारा defined एक अलग model पर fall back करता है।
क्या osFoundry मेरे prompts देखता है?
Cloud-routed prompts osFoundry के माध्यम से आपके provider को pass होते हैं (हमें request forward करनी होती है)। वे आपके द्वारा audit के लिए configure किए गए से अधिक logged नहीं हैं। Local models कभी आपका device नहीं छोड़ते।
क्या मैं बिना downtime के एक key rotate कर सकता हूँ?
हाँ — पहले नई key जोड़ें; osFoundry overlap window के दौरान दोनों उपयोग करता है। फिर पुरानी key delete करें।
मूल्य निर्धारण
osFoundry में BYOK स्वयं free है। आप केवल tokens के लिए अपने provider को pay करते हैं। osFoundry cloud provider pricing के ऊपर कुछ भी charge नहीं करता।
संबंधित सुविधाएँ