待验证50% 置信事实精确时间
Betelgeuse 的 110 GB Engram 表完全放在 NVMe SSD 上,只在第 1 层和第 14 层激活,每个 token 只触及 48 行(约 192 KB),活跃行在 t=0 时被暂存到 2MB 的 VRAM 缓冲区。
1
来源数
50%
置信度
长期有效
时效性
2026/11/7
首次发现
来源
涉及实体
相关事实
待验证Ngram查找表每个token只读取少数几行,不需要常驻高速内存;剥离该表后,核心模型的2-bit构建只需152GB,256GB机器可剩余近100GB余量。73% 相似待验证28.8GB的N-gram插值表留在硬盘上,不占显存也不占内存72% 相似待验证在 Unsloth 中,将 DeepSeek-V4.1-Flash-1017 的 Engram 表留在 SSD 上,1-bit 量化下模型约占用 125 GB 内存即可运行,4-bit 量化下约需 300 GB。72% 相似待验证每1000个在途token在KV缓存中需要约0.33 GB显存。71% 相似待验证约200GB的n-gram表存于普通系统内存而非显卡,后台传输预取即将用到的行71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1147046API
curl https://kongchang.com/api/v1/knowledge/claims/1147046MCP
get_claim(id=1147046)