持久记忆
AI系统中跨会话保留用户信息与任务上下文的能力,需将信息结构化存储并在后续对话中精准召回,是AI Agent落地的核心技术难题之一
核心事实
时间轴 (近 90 天)
持久记忆把信息存在模型之外(数据库、文件、向量索引),推理时按需检索并拼进上下文,模型权重不变,好处是信息可增删改查、可审计、可跨用户隔离,且更新无需重新训练。
微调不适合充当记忆,因为每次新增用户数据都重新训练成本极高,且微调后的模型难以精确删除某条信息,也难以保证按用户隔离。
微调(fine-tuning)和持久记忆(persistent memory)解决不同问题:微调通过训练样本改变模型行为,持久记忆让应用外部存储信息并在需要时检索。
记忆管理意味着决定agent要携带什么向前、携带多久、以及丢弃什么;工作记忆保存当前任务并在任务结束时丢弃,持久记忆保存耐久事实并有选择地检索。
在传统软件工程中,保留完整历史通常被视为良好实践,但在开放式发现场景中,完整历史反而成为负担,导致智能体搜索行为趋同、探索空间被压缩。
研究提示,需要区分'需要长期记忆'的任务(如客服、项目管理)和'需要定期遗忘'的任务(如开放式搜索、创意生成),并为后者设计状态丢弃与检查点重启机制。
当前主流的LLM智能体框架大多强调持久记忆和上下文累积,将历史长度视为能力的标志。
当前AI编程代理(AI Coding Agents)每次会话都从零开始,无法记住此前的代码决策、项目约定和用户偏好。
记忆的权限边界、敏感代码的存储合规、以及多工具并发写入同一记忆库时的一致性,都还没有成熟答案。
当前大多数模型的上下文窗口已扩展到数十万 token,但属于短期工作记忆,关闭会话即消失
还有 3 条时间轴事件
全部知识事实 (15)
记忆检索应叠加时间衰减、重要性加权和混合检索,而非仅依靠向量相似度
65%已验证持久化记忆通常分为短期工作记忆、情节记忆和语义记忆三个层次
65%待验证Memos MCP的长期记忆实现原理与OpenAI在ChatGPT中推出的Memory功能相近,但MCP方案的优势在于用户对数据拥有完全控制权
70%待验证持久记忆把信息存在模型之外(数据库、文件、向量索引),推理时按需检索并拼进上下文,模型权重不变,好处是信息可增删改查、可审计、可跨用户隔离,且更新无需重新训练。
50%待验证微调(fine-tuning)和持久记忆(persistent memory)解决不同问题:微调通过训练样本改变模型行为,持久记忆让应用外部存储信息并在需要时检索。
50%待验证微调不适合充当记忆,因为每次新增用户数据都重新训练成本极高,且微调后的模型难以精确删除某条信息,也难以保证按用户隔离。
50%待验证记忆管理意味着决定agent要携带什么向前、携带多久、以及丢弃什么;工作记忆保存当前任务并在任务结束时丢弃,持久记忆保存耐久事实并有选择地检索。
50%待验证当前主流的LLM智能体框架大多强调持久记忆和上下文累积,将历史长度视为能力的标志。
50%待验证在传统软件工程中,保留完整历史通常被视为良好实践,但在开放式发现场景中,完整历史反而成为负担,导致智能体搜索行为趋同、探索空间被压缩。
50%待验证研究提示,需要区分'需要长期记忆'的任务(如客服、项目管理)和'需要定期遗忘'的任务(如开放式搜索、创意生成),并为后者设计状态丢弃与检查点重启机制。
50%待验证当前AI编程代理(AI Coding Agents)每次会话都从零开始,无法记住此前的代码决策、项目约定和用户偏好。
50%待验证记忆的权限边界、敏感代码的存储合规、以及多工具并发写入同一记忆库时的一致性,都还没有成熟答案。
50%待验证当前大多数模型的上下文窗口已扩展到数十万 token,但属于短期工作记忆,关闭会话即消失
50%待验证一次性的反馈可被写入项目规则文件,固化为每次修改都必须遵守的长期约束
50%待验证各家 AI 编程工具的记忆机制采用私有格式和存储方式,导致开发者被隐性绑定,迁移成本高
50%