Home / Funzionalità / Esegua qualsiasi modello / BYOK API cloud

BYOK Anthropic, OpenAI, Google e qualsiasi API cloud in osFoundry

osFoundry Le permette di portare le Sue chiavi (BYOK) per Anthropic Claude, OpenAI GPT, Google Gemini, Mistral, Together, Groq, DeepSeek e qualsiasi provider OpenAI-compatibile. Le chiavi sono memorizzate nel Suo keychain crittografato, mai nel codice sorgente o nei log. L'account del Suo provider viene fatturato direttamente: osFoundry aggiunge zero ricarico sui token.

Risposta rapida

Incolli qualsiasi chiave API provider nella finestra BYOK: crittografata a riposo.
I modelli dalla Sua chiave vengono auto-scoperti e aggiunti al catalogo.
Nessun ricarico sui token: il Suo provider Le fattura direttamente.
Cambi modello per richiesta, per agente o tramite regole di routing in osStudio.

Funzionalità principali

Integrazioni provider pre-costruite per Anthropic, OpenAI, Google AI Studio + Vertex, Mistral, Together, Groq, DeepSeek, Cohere.
Qualsiasi endpoint OpenAI-compatibile si aggiunge in secondi (base URL + chiave).
Auto-discovery dei modelli disponibili dalla Sua chiave.
Isolamento delle chiavi per workspace: nessuna chiave attraversa i confini del workspace.
Catena di auto-fallback: se il Suo modello primario riceve 429, ritenta sul modello successivo configurato.
Dispatch live del modello: Maestro sceglie il modello per richiesta tramite le Sue regole di routing.

Come farlo in osFoundry

Apra la finestra delle chiavi BYOK — Clicchi sull'icona della chiave nel pannello chat Maestro o apra Impostazioni → Modelli → BYOK.
Incolli la Sua chiave provider — Scelga un provider, incolli la chiave. osFoundry la valida ed elenca i modelli disponibili sul Suo account.
Assegni a un ruolo Maestro — Nella tab Pipeline, assegni il modello scoperto a uno dei ruoli Maestro (router, direct, orchestrator, fallback). È live in ogni chat.

Casi d’uso

Team con spesa Anthropic esistente: Colleghi una chiave Anthropic esistente in osFoundry. La spesa continua sulla Sua fattura Anthropic; osFoundry non aggiunge ricarico. Maestro diventa l'orchestratore sopra.
Sviluppatore solo cost-sensitive: BYOK su Groq per inferenza economica a bassa latenza, BYOK su Anthropic per ragionamento difficile. Le regole di routing inviano il 90% del traffico a Groq e solo la coda difficile a Claude.

Domande frequenti

BYOK è gratuito?

Sì: portare la Sua chiave non costa nulla in più in osFoundry. Paga solo il Suo provider per l'uso dei token.

Dove sono memorizzate le mie chiavi API?

Nel keychain del Suo OS locale (macOS Keychain, Windows Credential Manager, Linux Secret Service). Per i workspace cloud, le chiavi sono crittografate con chiavi controllate dal workspace.

Posso usare una chiave provider in tutti i miei workspace?

Ogni workspace ha il proprio key store per isolamento. Copi una chiave su più workspace se necessario.

Cosa succede quando il rate limit della mia chiave si raggiunge?

osFoundry fa emergere l'errore nella chat e (se configurato) ripiega su un modello diverso definito dalle Sue regole di routing.

osFoundry vede i miei prompt?

I prompt instradati nel cloud passano attraverso osFoundry al Suo provider (dobbiamo inoltrare la richiesta). Non sono loggati oltre a ciò che configura per l'audit. I modelli locali non lasciano mai il Suo device.

Posso ruotare una chiave senza downtime?

Sì: aggiunga prima la nuova chiave; osFoundry usa entrambe durante la finestra di sovrapposizione. Poi cancelli la vecchia chiave.

Prezzi

BYOK in sé è gratuito in osFoundry. Paga solo il Suo provider per i token. osFoundry non addebita nulla sopra il prezzo del provider cloud.