Beranda / Fitur / Jalankan model apa pun / BYOK cloud API

BYOK Anthropic, OpenAI, Google, dan cloud API apa pun di osFoundry

osFoundry memungkinkan Anda membawa kunci Anda sendiri (BYOK) untuk Anthropic Claude, OpenAI GPT, Google Gemini, Mistral, Together, Groq, DeepSeek, dan provider OpenAI-compatible mana pun. Kunci disimpan di keychain terenkripsi Anda, tidak pernah di source code atau log. Akun provider Anda ditagih langsung — osFoundry menambahkan markup nol pada token.

Jawaban singkat

Tempel kunci API provider apa pun ke dialog BYOK — terenkripsi saat istirahat.
Model dari kunci Anda otomatis ditemukan dan ditambahkan ke katalog.
Tanpa markup token — provider Anda menagih Anda langsung.
Beralih model per request, per agent, atau via aturan routing di osStudio.

Kemampuan utama

Integrasi provider pre-built untuk Anthropic, OpenAI, Google AI Studio + Vertex, Mistral, Together, Groq, DeepSeek, Cohere.
Endpoint OpenAI-compatible apa pun ditambahkan dalam beberapa detik (URL dasar + kunci).
Auto-discovery model yang tersedia dari kunci Anda.
Isolasi kunci per-workspace — tidak ada kunci yang melintasi batas workspace.
Rantai auto-fallback: jika model utama Anda 429s, coba ulang pada model berikutnya yang dikonfigurasi.
Dispatch model live — Maestro memilih model per request via aturan routing Anda.

Cara melakukannya di osFoundry

Buka dialog kunci BYOK — Klik ikon kunci di panel chat Maestro atau buka Settings → Models → BYOK.
Tempel kunci provider Anda — Pilih provider, tempel kunci. osFoundry memvalidasi dan mencantumkan model yang tersedia pada akun Anda.
Tetapkan ke role Maestro — Di tab Pipeline, tetapkan model yang ditemukan ke salah satu role Maestro (router, direct, orchestrator, fallback). Itu live di setiap chat.

Kasus penggunaan

Tim dengan pengeluaran Anthropic yang ada: Pasang kunci Anthropic yang ada ke osFoundry. Pengeluaran berlanjut di invoice Anthropic Anda; osFoundry tidak menambahkan markup. Maestro menjadi orkestrator di atas.
Dev solo hemat biaya: BYOK ke Groq untuk inference latency rendah murah, BYOK ke Anthropic untuk reasoning sulit. Aturan routing mengirim 90% traffic ke Groq dan hanya ekor sulit ke Claude.

Pertanyaan yang sering diajukan

Apakah BYOK gratis?

Ya — membawa kunci Anda tidak berbiaya tambahan di osFoundry. Anda membayar hanya provider Anda untuk penggunaan token.

Di mana kunci API saya disimpan?

Di keychain OS lokal Anda (macOS Keychain, Windows Credential Manager, Linux Secret Service). Untuk workspace cloud, kunci dienkripsi dengan kunci yang dikontrol workspace.

Bisakah saya menggunakan satu kunci provider lintas semua workspace saya?

Setiap workspace memiliki key store-nya sendiri untuk isolasi. Salin kunci ke beberapa workspace jika perlu.

Apa yang terjadi saat rate limit kunci saya tercapai?

osFoundry memunculkan error di chat dan (jika dikonfigurasi) jatuh kembali ke model berbeda yang didefinisikan oleh aturan routing Anda.

Apakah osFoundry melihat prompt saya?

Prompt yang dirutekan cloud melewati osFoundry ke provider Anda (kami perlu meneruskan request). Mereka tidak dicatat melampaui apa yang Anda konfigurasi untuk audit. Model lokal tidak pernah meninggalkan perangkat Anda.

Bisakah saya merotasi kunci tanpa downtime?

Ya — tambahkan kunci baru terlebih dahulu; osFoundry menggunakan keduanya selama jendela tumpang tindih. Lalu hapus kunci lama.

Harga

BYOK itu sendiri gratis di osFoundry. Anda membayar hanya provider Anda untuk token. osFoundry tidak menagih apa pun di atas harga provider cloud.