osFoundry / Platform
模型试验场
在沙箱化的提示 → 响应界面中测试任意模型,带完整 token / 成本核算。
简介
Model playground 是 osFoundry 内的沙盒:你输入一段提示、选择一个模型,就能看到响应以及它究竟花了多少钱。在把一个模型正式接入聊天、agent 或自动化循环之前,总会冒出一些问题,而这是最快得到答案的方式:这个模型遵循我的指令吗?在同一段提示上,它的输出与另一个模型相比如何?那条回答实际消耗了多少 token,又花了我多少钱?由于 osFoundry 采用 bring-your-own-key,界面显示的成本是服务商针对你自己账户的真实价格,你和模型之间不存在任何转售加价。
在 osFoundry 内部,playground 沿用工作区其余部分所用的同一批模型连接,因此凡是你已接好的模型都能在这里测试:运行在你自己机器上的本地模型、用你自己的 API 密钥访问的云端模型,或你自托管的模型。你发送一段提示,得到一条响应,界面会报告这次交互的 token 核算(输入的提示 token、输出的补全 token)以及由此得出的成本。这让 playground 成为在模型大规模真正工作之前打磨提示、读懂每次请求真实成本的地方,因为每次调用的微小差异会随每一次运行成倍放大。
作为一款桌面端、本地优先的工作区,这一点直接决定了你能在这里测试什么。当你把 playground 指向运行在你自己设备上的模型时,提示和响应绝不离开你的机器,因此你可以在不把敏感或专有提示交给第三方的情况下反复打磨。无论模型是本地、云端还是自托管,提示 → 响应 → 成本这一循环都同样运作,这正是让你能够从同一个界面出发,在差异极大的后端之间就质量与价格做出诚实的横向比较。
主要功能
- 向任意已连接的模型(本地、云端或自托管)发送提示,并在单一沙盒界面中读取响应
- 查看每次交互的完整 token 核算:输入的提示 token、输出的补全 token
- 按你自己 BYOK 服务商的定价获得每次请求的真实成本,不叠加任何转售加价
- 针对运行在你自己设备上的本地模型试用提示,让敏感输入绝不离开你的机器
- 在把模型接入聊天、agent 或循环之前,打磨提示措辞并测出真实成本
使用场景
- 选型中的开发者:用同一段提示分别跑一个本地模型和一个云端模型,在决定之前比较输出质量与 token 成本
- 提示工程师:在沙盒中反复调整措辞,观察每一次修订如何改变 token 数量与成本
- 注重隐私的分析师:用本地托管的模型测试含机密数据的提示,确保没有任何内容被发往外部 API
常见问题
我可以在 playground 里测试哪些模型?
任何你在 osFoundry 中已连接的模型:运行在你机器上的本地模型、用你自己 API 密钥访问的云端模型,或你自托管的模型。playground 使用与工作区其余部分相同的连接,因此只要你能在 osFoundry 的其他地方使用某个模型,就能在这里测试它。
成本如何计算?是否有加价?
成本由你这次请求的 token 核算按你所用服务商自己的定价推算得出。osFoundry 采用 bring-your-own-key,你直接向服务商付费,之上不叠加任何转售加价;你看到的数字反映的是该次调用在你账户上的真实价格。
我能否在不向云端服务商发送数据的情况下私密地测试提示?
可以。osFoundry 是一款本地优先的桌面工作区。当你把 playground 指向运行在你自己设备上的模型时,提示和响应都留在你的机器上,不会发往任何外部服务,这对反复打磨敏感或专有提示很有用。