osFoundry / Platform
云端 GPU
直接从平台租用 A100 / H100 / L40 实例。按小时付费,无合同。
简介
Cloud GPU 让你直接在 osFoundry 内租用 NVIDIA 加速器实例(A100、H100 和 L40 级别硬件),并按小时付费,没有合同,也没有预留容量的承诺。你不必去开通云账户、申请 GPU 配额、自行配置驱动和 CUDA,只需打开实例选择器,按显存和区域挑选一块 GPU,平台就会为你完成预置。用完后释放它,计费即停止。
在 osFoundry 内,同一块租用的 GPU 无需任何额外配置就能支撑三种工作流。你可以在它上面运行托管的微调任务,启动一个带 GPU 的笔记本做实验,或者把模型部署为按需预置云 GPU 的自动伸缩端点。实例选择器的价格是从服务器实时拉取的,而非取自写死的表格,因此你看到的每小时费率(连同 GPU 型号、显存、vCPU、内存和预估冷启动时间)就是实际向你收取的费率。若真实价格无法加载,平台不会报一个它不会兑现的数字,而是不显示任何可选项。
这一点很重要,因为 GPU 时间既昂贵又容易忘记关掉。按小时计费从预置开始、到释放结束,没有最低时长,让五分钟的实验保持廉价,也让被遗忘实例的成本清晰可见。由于 osFoundry 是 local-first,小任务在你自己的设备 GPU 上仍然免费,只有当模型确实需要的显存超过你机器所有时,你才去动用租来的 A100 或 H100。这与工作区其余部分的立场一致:密钥归你,数据尽可能留在本地,付费基础设施只在你选择时才启用。
主要功能
- 按需租用 A100、H100 和 L40 级别的 NVIDIA GPU 实例,无需配额申请、无需采购流程、无需预留容量合同
- 按小时付费:计费在实例预置时开始,在你释放时停止,没有需要取消的东西,也没有最低时长
- 在确认前,从服务器实时定价的列表中挑选实例,列表会显示 GPU 型号、显存、vCPU、内存、区域和预估冷启动时间
- 同一块租用的 GPU 可用于微调任务、Jupyter 风格的笔记本和自动伸缩的模型端点,全部在一个工作区内完成
- 小任务在自己的硬件上保持免费:设备 GPU 运行不收费,只有当模型需要的显存超过你所拥有的时,才转向云 GPU
使用场景
- ML 工程师:为一个笔记本电脑装不下的 13B 模型微调,仅在训练运行期间租用一块 H100,任务一结束就释放
- 研究员:在一块 A100 上打开 GPU 笔记本做一个下午的实验,只为实例开启的小时数付费,事先无需设置账户或配额
- 产品团队:将模型部署为运行在 L40 级别 GPU 上的自动伸缩端点,随着请求量的起落,让平台按小时预置并计费容量
常见问题
我能租用哪些 GPU,价格是多少?
你可以租用 A100、H100 和 L40 级别的 NVIDIA 实例。价格按小时计,并在实例选择器内实时提供,显示每块 GPU 的型号、显存、vCPU、内存、区域和预估冷启动时间。osFoundry 特意不在应用内公布固定价目表,因为向你收取的费率就是你挑选那一刻服务器给出的费率。请查看实时选择器,了解你所在区域当前的每小时费用。
按小时计费如何运作,有没有合同?
没有合同、预留或最低时长。计费在实例预置时开始,在你释放时停止,因此一次短实验只花掉不到一小时的费用,也没有需要取消的东西。请注意,部署端点会在 GPU 一启动时就预置并计费,即使模型尚未完全就绪,所以对于不再使用的实例请及时释放。
我必须使用云 GPU 吗,还是可以在本地运行模型?
你可以在自己的设备 GPU 上免费运行模型:osFoundry 是 local-first,本地训练和推理不消耗任何云额度。云 GPU 是为这些情况准备的:模型需要的显存超过你机器所有,或者你想为微调任务或在线端点获得专用的加速器容量。是留在本地还是租用,你可以按每个工作负载自行决定。