Inicio / Funciones / Ejecutar cualquier modelo / BYOK API de nube
BYOK con Anthropic, OpenAI, Google y cualquier API de nube en osFoundry
osFoundry les permite traer sus propias claves (BYOK) para Anthropic Claude, OpenAI GPT, Google Gemini, Mistral, Together, Groq, DeepSeek y cualquier proveedor compatible con OpenAI. Las claves se almacenan en su keychain cifrado, nunca en el código fuente ni en los logs. Su cuenta del proveedor se factura directamente: osFoundry añade cero recargo sobre los tokens.
Respuesta rápida
- Peguen cualquier clave de API del proveedor en el diálogo BYOK: cifrada en reposo.
- Los modelos de su clave se autodescubren y se añaden al catálogo.
- Sin recargo sobre los tokens: su proveedor les factura directamente.
- Cambien de modelo por solicitud, por agente o vía reglas de enrutamiento en osStudio.
Capacidades principales
- Integraciones de proveedor preconstruidas para Anthropic, OpenAI, Google AI Studio + Vertex, Mistral, Together, Groq, DeepSeek, Cohere.
- Cualquier endpoint compatible con OpenAI se añade en segundos (URL base + clave).
- Autodescubrimiento de modelos disponibles a partir de su clave.
- Aislamiento de claves por workspace: ninguna clave cruza los límites del workspace.
- Cadena de auto-fallback: si su modelo principal devuelve 429, reintenta con el siguiente modelo configurado.
- Despacho de modelo en vivo: Maestro elige el modelo por solicitud según sus reglas de enrutamiento.
Cómo hacerlo en osFoundry
- Abran el diálogo de clave BYOK — Pulsen el icono de llave en el panel de chat de Maestro o abran Ajustes → Modelos → BYOK.
- Peguen la clave de su proveedor — Elijan un proveedor, peguen la clave. osFoundry la valida y lista los modelos disponibles en su cuenta.
- Asignen a un rol de Maestro — En la pestaña Pipeline, asignen el modelo descubierto a uno de los roles de Maestro (router, direct, orchestrator, fallback). Está en vivo en cada chat.
Casos de uso
- Equipo con gasto existente en Anthropic: Conectar una clave existente de Anthropic en osFoundry. El gasto continúa en su factura de Anthropic; osFoundry no añade recargo. Maestro se convierte en el orquestador por encima.
- Desarrollador en solitario sensible al coste: BYOK a Groq para inferencia barata y de baja latencia, BYOK a Anthropic para razonamiento difícil. Las reglas de enrutamiento envían el 90 % del tráfico a Groq y solo la cola difícil a Claude.
Preguntas frecuentes
¿BYOK es gratuito?
Sí: traer su clave no cuesta nada extra en osFoundry. Solo pagan a su proveedor por el uso de tokens.
¿Dónde se almacenan mis claves de API?
En el keychain de su SO local (macOS Keychain, Windows Credential Manager, Linux Secret Service). Para los workspaces en la nube, las claves se cifran con claves controladas por el workspace.
¿Puedo usar una clave de proveedor en todos mis workspaces?
Cada workspace tiene su propio almacén de claves por aislamiento. Copien una clave a varios workspaces si lo necesitan.
¿Qué pasa cuando se alcanza el rate limit de mi clave?
osFoundry muestra el error en el chat y (si está configurado) hace fallback a un modelo distinto definido por sus reglas de enrutamiento.
¿osFoundry ve mis prompts?
Los prompts enrutados a la nube pasan por osFoundry hacia su proveedor (necesitamos reenviar la solicitud). No se registran más allá de lo que ustedes configuren para auditoría. Los modelos locales nunca salen de su dispositivo.
¿Puedo rotar una clave sin downtime?
Sí: añadan primero la nueva clave; osFoundry usa ambas durante la ventana de superposición. Luego eliminen la antigua.
Precios
BYOK en sí es gratuito en osFoundry. Solo pagan a su proveedor por los tokens. osFoundry no cobra nada por encima del precio del proveedor en la nube.
Funciones relacionadas