首页 / 功能 / 运行任意模型 / BYOK 云端 API
在 osFoundry 中 BYOK Anthropic、OpenAI、Google 以及任意云端 API
osFoundry 允许您为 Anthropic Claude、OpenAI GPT、Google Gemini、Mistral、Together、Groq、DeepSeek 以及任意 OpenAI 兼容提供方自带密钥(BYOK)。密钥存放在您加密的 keychain 中,绝不进入源码或日志。直接计费到您的提供方账户——osFoundry 对 token 加价为零。
快速解答
- 将任意提供方 API 密钥粘贴到 BYOK 对话框——静态加密。
- 您密钥下的模型会被自动发现并添加到目录。
- Token 无加价——您的提供方直接计费给您。
- 可按请求、按智能体或在 osStudio 中通过路由规则切换模型。
主要功能
- 预置 Anthropic、OpenAI、Google AI Studio + Vertex、Mistral、Together、Groq、DeepSeek、Cohere 集成。
- 任意 OpenAI 兼容端点可在数秒内添加(base URL + 密钥)。
- 从您的密钥中自动发现可用模型。
- 按工作空间隔离密钥——任何密钥都不会跨越工作空间边界。
- 自动回退链:主模型 429 时,按下一个已配置模型重试。
- 实时模型调度——Maestro 按您的路由规则按请求挑选模型。
在 osFoundry 中如何操作
- 打开 BYOK 密钥对话框 — 在 Maestro 对话面板中点击钥匙图标,或打开「设置 → 模型 → BYOK」。
- 粘贴您的提供方密钥 — 选择提供方,粘贴密钥。osFoundry 会校验并列出您账户中可用的模型。
- 分配给 Maestro 角色 — 在 Pipeline 标签页中,将发现的模型分配给 Maestro 的某个角色(router、direct、orchestrator、fallback)。它将在每次对话中生效。
使用场景
- 已有 Anthropic 支出的团队: 将现有 Anthropic 密钥接入 osFoundry。支出继续记入您的 Anthropic 发票;osFoundry 不加价。Maestro 在其上成为编排器。
- 成本敏感的独立开发者: BYOK 到 Groq 以低成本低延迟推理,BYOK 到 Anthropic 做困难推理。路由规则将 90% 流量送往 Groq,仅困难尾部送往 Claude。
常见问题
BYOK 免费吗?
是的——在 osFoundry 中自带密钥不收取任何额外费用。您只需为 token 用量向您的提供方付费。
我的 API 密钥存放在哪里?
存放在您本地的 OS keychain(macOS Keychain、Windows Credential Manager、Linux Secret Service)。对于云端工作空间,密钥使用工作空间控制的密钥加密。
我能在所有工作空间共用一个提供方密钥吗?
每个工作空间都有自己的密钥库以实现隔离。如需可将一个密钥复制到多个工作空间。
我的密钥触发速率限制时会怎样?
osFoundry 会在对话中显示错误,并(若已配置)按您的路由规则回退到另一个模型。
osFoundry 能看到我的提示吗?
走云端的提示会经过 osFoundry 转发到您的提供方(我们需要转发请求)。除了您为审计配置的内容外不会记录。本地模型则永远不会离开您的设备。
我能在不停机的情况下轮换密钥吗?
可以——先添加新密钥;osFoundry 在重叠窗口期间会同时使用两者。随后删除旧密钥即可。
价格
BYOK 本身在 osFoundry 中免费。Token 仅向您的提供方付费。osFoundry 不在云端提供方定价之上额外收费。
相关功能