osFoundry / Platform
训练
在您自己的数据上微调或 LoRA 适配模型——本地、工作站或云端。
简介
osFoundry 的 Training 让你把模型适配到自己的数据上,而不是只依赖提示词。你可以做完整微调,也可以做更轻量的 LoRA 适配,把你所在领域的示例喂给模型:你的客服对话记录、你的代码库约定、你的写作风格、你打好标签的记录,让它按你的工作真正需要的方式作答。它和 osFoundry 的其余部分并列在一起,因此你训练出的模型可以立刻在同一工作区的聊天、智能体和应用中使用。
由于 osFoundry 采用 BYOK 且本地优先,训练会在最契合你的数据与硬件之处运行:在你自己机器上的本地环境、在配有高性能 GPU 的专用工作站,或者当桌面算力不够时放到云端。运行时由你选择;osFoundry 不会强迫你的训练数据经过任何转售商,也不会在算力之上加价。当训练在本地或你自己的工作站上运行时,数据可以留在你的设备上,无需把任何东西传出去就能得到一个适配后的模型。对多数人而言,LoRA 是务实的默认选择:它只训练一小组适配器权重,而非重写整个模型,因此更便宜、更快,也能在较普通的硬件上运行;而当你需要对模型做更深层的改动时,完整微调也随时可用。
这一点很重要,因为一条提示词能承载的信息有限,而在每次请求里都粘贴同样的上下文既昂贵又脆弱。训练把你的模式一次性烙进权重,行为因此保持一致,不必每次都重新解释自己。配合 osFoundry 的 BYOK 模式(密钥由你提供,没有按席位定价,你的知识与数据本就在同一工作区里),训练把你拥有的数据和你真正用来运行的模型闭合成一个环。
主要功能
- 用自有数据微调或 LoRA 适配模型:需要深层改动时用完整微调,想在普通硬件上更便宜更快时用 LoRA
- 训练可在本地、GPU 工作站或云端运行:由你按数据和硬件挑选运行时
- 本地与工作站训练让数据留在你的设备上:无需把任何东西传出去就能产出适配后的模型
- 自带密钥,无按席位收费:训练或推理算力之上没有转售商加价
- 训练好的模型可立刻在同一工作区用于聊天、智能体和应用
使用场景
- 机器学习工程师:在工作站 GPU 上用 LoRA 把一个开源模型适配到团队的代码库约定,再在同一工作区接入编程智能体
- 领域专家:用带标签的记录和对话记录微调模型,让它使用你的术语并以本机构的风格作答,无需冗长提示词
- 注重隐私的团队:在本地训练,让专有或受监管的数据永不离开设备,使适配后的模型完全在你掌控之中
常见问题
这里的 LoRA 和完整微调有什么区别?
完整微调会更新模型的全部权重,对其行为的改变更深,但消耗更多算力和内存。LoRA 则只训练一小组适配器权重,因此更快、更便宜,也能在较普通的硬件上运行。osFoundry 两者都支持:对多数任务 LoRA 是实用之选,而当你需要更彻底地改变模型时,可以使用完整微调。
我的训练数据会离开我的机器吗?
这取决于你在哪里运行任务。当你在本地或自己的工作站上训练时,数据可以留在你的设备上:osFoundry 本地优先,产出适配后的模型无需把数据发往任何地方。如果你为了更多算力选择在云端训练,数据会送往你所选的运行时;这是你有意做出的权衡,而非默认如此。
训练完成后我能立刻使用训练好的模型吗?
可以。你在 osFoundry 中适配的模型就在同一工作区里,因此无需导出到别处即可用于聊天、智能体和应用。由于 osFoundry 采用 BYOK 且无按席位收费,训练模型与用它运行之间不会夹着任何转售商加价或额外的席位费用。