Engram
DeepSeek-V4.1-Flash引入的模型内部记忆机制,将部分权重容量(197B参数)用作n-gram记忆表,通过查找代替前向计算处理高频语言模式,降低推理成本
核心事实
时间轴 (近 90 天)
DeepSeek 1017 的专家权重已是 FP4(每参数 4bit),常规 4bit 量化帮助不大;Engram 记忆表可放 SSD(每 Token 只读约 12KB),但专家权重必须驻留高速内存,因为路由器每层从 384 个专家中选 6 个且逐 Token 选择不同。
Engram 通过 RELATED_TO 实体边进行一跳遍历,能召回未直接提及查询词的记忆,因为实体共现会加强边。
Engram 是开发者在 FalkorDB 的 Graph Hacks 黑客松上构建的基于图数据库的共享记忆系统,可为所有 AI 工具提供共享记忆。
Engram 通过 SUPERSEDES 边表示新记忆取代旧记忆,旧记忆标记为 superseded 但不删除,召回时默认过滤 active 状态。
Engram 的溯源路径为 Tool -[:RAN]-> Session -[:CAPTURED]-> Memory -[:SUPERSEDES]-> Memory,通过遍历边实现溯源,无需同步 JSON 字段。
Cursor 和 Gemini CLI 通过 MCP 读取 Engram 的同一张图,但需要手动添加 engram_recall 提示,因为它们没有钩子系统。
Engram 通过 Claude Code 的会话钩子自动捕获记忆,用户无需显式说“记住这个”,决策在会话结束时落入图中。
Engram 方案中,MCP 读取依赖提示词自觉,自动捕获仅在支持钩子的工具中可用,这是当前方案的局限。
Engram 的本地 Web UI 绘制真实图,节点按状态着色,SUPERSEDES 边高亮,展示真实数据而非概念图。
Engram 是基于哈希的 n-gram 记忆,存放在主机内存中,挂接在 72 层中的 2 层上;mHC 用 4 条残差流取代传统单条残差流
还有 12 条时间轴事件
全部知识事实 (20)
DeepSeek-V4.1-Flash 的 KV 缓存压缩至每 Token 890 字节,仅为 V4 Flash 的四分之一
65%待验证DeepSeek 1017 的专家权重已是 FP4(每参数 4bit),常规 4bit 量化帮助不大;Engram 记忆表可放 SSD(每 Token 只读约 12KB),但专家权重必须驻留高速内存,因为路由器每层从 384 个专家中选 6 个且逐 Token 选择不同。
50%待验证Engram 通过 SUPERSEDES 边表示新记忆取代旧记忆,旧记忆标记为 superseded 但不删除,召回时默认过滤 active 状态。
50%待验证Engram 的溯源路径为 Tool -[:RAN]-> Session -[:CAPTURED]-> Memory -[:SUPERSEDES]-> Memory,通过遍历边实现溯源,无需同步 JSON 字段。
50%待验证Engram 通过 RELATED_TO 实体边进行一跳遍历,能召回未直接提及查询词的记忆,因为实体共现会加强边。
50%待验证Cursor 和 Gemini CLI 通过 MCP 读取 Engram 的同一张图,但需要手动添加 engram_recall 提示,因为它们没有钩子系统。
50%待验证Engram 方案中,MCP 读取依赖提示词自觉,自动捕获仅在支持钩子的工具中可用,这是当前方案的局限。
50%待验证Engram 的本地 Web UI 绘制真实图,节点按状态着色,SUPERSEDES 边高亮,展示真实数据而非概念图。
50%待验证Engram 通过 Claude Code 的会话钩子自动捕获记忆,用户无需显式说“记住这个”,决策在会话结束时落入图中。
50%待验证Engram 是开发者在 FalkorDB 的 Graph Hacks 黑客松上构建的基于图数据库的共享记忆系统,可为所有 AI 工具提供共享记忆。
50%待验证Engram 是基于哈希的 n-gram 记忆,存放在主机内存中,挂接在 72 层中的 2 层上;mHC 用 4 条残差流取代传统单条残差流
50%待验证Engram 将 AI 定位为拓展人的「新型乐器」而非取代人的「自动作曲机」
50%待验证Engram 是一台集采样器与节奏工作站于一体的硬件设备,利用 AI 破坏输入音频并生成全新声音
50%待验证Engram 明确表示自己不是「盒子里的 Suno」,也不是一键出歌的设备
50%待验证Engram 采用 groovebox 形态呈现 AI 音频处理,强调演奏者在当下做决策而非在软件界面反复调整参数
50%待验证Engram 采取采样器加节奏工作站的组合,旨在覆盖从声音采集、AI 处理到节奏编排的完整链路
50%待验证Harvey和Engram用该模型搭建合成律所,250个法律任务平均67分,高于该研究中所有参评模型
50%待验证Engram是模型内部权重结构的一部分,而非像RAG那样调用外部知识库
50%待验证Engram通过查找预存的n-gram记忆而非实时计算来处理高频语言模式,将部分语言建模负担从计算转移到内存查表
50%待验证Engram将整个checkpoint中四分之一的容量用作n-gram记忆,规模达到197B参数
50%