osFoundry / Platform
自动切片流水线
尊重小节、代码块与列表的智能切片。可按文件夹调优。
简介
自动分块流水线是 osFoundry 用于检索与嵌入的文档切分器。文本要先被切成小块,才能进行语义检索或作为上下文喂给模型。简单的切分器按固定字符数切割,常常把一个函数从中间截断、把一份有序列表拆到两个分块里,或者把标题与它所引出的段落分开。osFoundry 的流水线是结构感知的:它先读取文档自身的边界,再沿着这些边界切分,于是章节与其章节留在一起,代码块保持完整,列表仍然是列表。
在 osFoundry 内部,分块作为知识与嵌入及检索层之间的步骤运行。当你向文件夹添加文档时,流水线会解析其结构,生成保留这些自然边界的分块,再交给嵌入阶段。分块与检索采用本地优先方式,因此你的源文档可以留在设备上,而不必发往第三方索引服务。嵌入是唯一由平台付费的步骤(经由 osFoundry 的代理);你为聊天和智能体带来的模型都使用你自己的密钥,没有任何转售加价。这意味着同一份语料可以从一个地方供给聊天、智能体、应用和搜索,也没有按席位收费来限制谁能在其上构建。
分块大小并非一刀切,因此流水线可按文件夹调优。存放 API 参考与源代码的文件夹,需要的边界不同于存放长篇文字或会议记录的文件夹。你在文件夹层级设定行为,于是每一份知识都按它实际被阅读的方式来分块,而重新索引某个文件夹时只会重新分块发生变化的部分。更好的分块意味着更精准的检索:模型看到的段落连贯且自成一体,从而减少那些在下游导致答案薄弱或出现幻觉的噪声。
主要功能
- 按文档的真实结构切分,让章节、代码块和列表保持完整,而不是按盲目的字符计数切割
- 可按文件夹调优,使参考文档、源代码和长篇文字各自获得适合的分块边界
- 供给 osFoundry 的嵌入与检索层,为 RAG 和语义搜索生成更干净的段落
- 采用本地优先方式运行,源文档可以留在设备上,而不必送往第三方索引器
- 供给检索上下文的聊天与智能体均支持 BYOK,没有按席位收费,也没有转售加价
使用场景
- 构建内部 RAG 助手的工程师:对仓库的文档与代码分块时不从函数中间切断,让回答能引用完整示例
- 为长篇报告建索引的分析师:将每个章节与其表格保持在一起,使检索返回连贯且自成一体的段落
- 管理混合知识的团队负责人:将文字文件夹与代码文件夹设为不同的分块方式,按语料逐一调优检索质量
常见问题
这与固定大小分块有何不同?
固定大小的切分器不看内容,每 N 个字符就切一刀,会把代码块、列表和标题拆散。osFoundry 先读取文档结构,在章节、代码块和列表的边界处切分,因此每个分块都保持连贯且自成一体。
我能针对不同类型的内容控制分块行为吗?
可以。分块可按文件夹调优,因此存放源代码或 API 参考的文件夹,可以和存放长篇文字或笔记的文件夹采用不同的分块方式。每一份知识都能获得与它实际阅读方式相匹配的边界。
分块过程中我的数据去了哪里?
分块与检索采用本地优先方式运行,因此你的源文档可以留在设备上。嵌入是唯一由平台付费的步骤,经由 osFoundry 的代理完成;你用于聊天和智能体的模型都使用你自己的密钥,没有任何转售加价。