osFoundry / Platform
记忆提取
Maestro 从每次对话中提取持久记忆——事实、决策、偏好。
简介
记忆抽取是 osFoundry 的 Maestro 将转瞬即逝的对话转化为可长期复用知识的方式。一次对话被压缩后,Maestro 会回看这段交流,挑出真正值得保留的内容:陈述过的事实(\"我们的技术栈是 Postgres\")、决定及其背后的理由、个人与团队偏好、约束(\"不要用 staging 数据库\"),以及你明确要求记住的任何东西。每条抽取出的记忆都带着类型、重要度评分和标签存储,因此可以被筛选和检索,而不会在上下文窗口滚动的一刻就丢失。\n\n在 osFoundry 内部,抽取被设计得既省钱又对成本诚实。它在压缩之后于后台运行(fire-and-forget),而且在调用任何模型之前,会先对你自己的措辞做一次快速的显著性检查,寻找一条长期事实真正会呈现的形态,比如陈述的身份、一项偏好、一个决定,或是\"从现在起\"这类指令。不含任何值得记住之物的轮次永远到不了模型,因此抽取不会在每条消息上悄悄消耗你的 API 密钥。而当它确实运行时,会使用你为 memory_extraction 管线角色配置的模型链:任何你自带密钥的本地、云端或自托管模型,且调用不加任何转售溢价。随后,一个重要度阈值会在写入任何内容之前滤掉低价值的候选项。\n\n存储在设计上就是本地优先的。抽取出的记忆先交给设备上的存储(local_memories 表从不与云端同步),只有在你拥有账号且处于在线状态时,才会进一步做嵌入并镜像到工作区记忆存储。这个顺序是有意为之:完全本地或离线运行的用户同样能拿到每一条记忆,近乎重复的事实会在写入时去重。之后,智能体与 Maestro 通过语义搜索唤回这些记忆:查询被嵌入,与记忆存储比对,每一条命中都带着自己可引用的 memory:// 地址返回,于是你能准确看到是哪条被记住的事实支撑了某个回答。整条路径也是可插拔的:你可以绑定自定义的 memory_extractor,而 osFoundry 原生的抽取器作为回退。
主要功能
- 压缩之后从每次对话中抽取可长期保留的记忆:陈述的事实、决定及其理由、偏好、约束,以及明确的\"记住这个\"请求。
- 在任何模型调用之前先跑一道省钱的显著性闸门,因此抽取只在很可能含有值得保留内容的轮次上消耗你自己的 API 密钥,而非每次交流都计费。
- 为 memory_extraction 角色使用你自己的 BYOK 模型链,本地或云端皆可,其调用不加任何转售溢价。
- 本地优先存储:抽取出的记忆先写入设备上的存储(从不与云端同步),因此即便离线或没有账号也能留存。
- 按重要度和类型为每条记忆打分,对几乎相同的事实去重,并让它们日后可通过语义记忆搜索检索,附带可引用的 memory:// 来源。
使用场景
- 咨询工程师:Maestro 记得某客户坚持用 Postgres 而非 DynamoDB 以及缘由,于是数周后智能体不会重新争论一个已成定局的决定。
- 注重隐私的研究者:偏好与项目事实留在从不与云端同步的设备记忆存储中,可完全离线、用你自己的密钥使用。
- 统一规范的团队负责人:一旦你说\"我们团队偏好用制表符\"或\"别动迁移文件\",这条约束就被捕获,并在后续工作中被呈现出来。
常见问题
记忆抽取会把我的对话发送到 osFoundry 的服务器吗?
不会。抽取出的记忆先写入设备上的存储,而那张本地记忆表从不与云端同步。只有在你拥有账号且在线时,记忆才会额外被嵌入并镜像到你自己的工作区记忆存储。抽取所用的模型调用本身跑在你自带的密钥上,osFoundry 的服务器从不代你调用任何 LLM。
这会在每条消息之后都跑一次昂贵的 AI 调用吗?
不会。抽取只在一次对话被压缩之后发生,即便如此也会先跑一道省钱的显著性闸门:对你的消息做一次快速的模式检查,寻找诸如陈述的偏好、决定或\"记住这个\"这类措辞。普通的任务闲聊会在任何模型调用之前被跳过,因此不含任何值得保留之物的轮次不会计入你的 API 密钥费用。
记忆一旦被抽取,Maestro 如何使用它?
记忆带着类型、重要度评分和标签存储,随后可通过语义搜索检索。相关时,智能体会嵌入一条查询、在记忆存储中搜索,并取回匹配的事实,每条都带着可引用的 memory:// 来源,让你能追溯是哪条被记住的细节塑造了这个回答。memory_extraction 模型由你通过 osFoundry 的 BYOK 管线角色来选择。