待验证50% 置信事实精确时间
SR-SWA使每步解码延迟和内存占用几乎不随文档长度增长。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证SWA-bounded replay模式让长输入提示中的大多数早期token只经过模型约一半的层，仅对最近窗口内token执行完整全层计算，以牺牲部分精度换取速度和内存占用降低71% 相似待验证长期记忆技术方案存在取舍：压缩摘要实现简单但细节失真；RAG检索精度更高但延迟和成本随规模上升；状态图维护成本高但行为可预期性最强66% 相似已验证超长上下文窗口的KV缓存显存占用随上下文长度线性增长，导致推理延迟和成本显著上升65% 相似待验证该模型使用双向注意力编码器架构，一次前向计算完成，延迟是常数级的，不随内容长度线性增长65% 相似待验证缓解上下文溢出的手段包括检索增强生成（RAG）、对话摘要压缩和外部状态存储，但这些都会增加延迟与工程复杂度。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1102783API
curl https://kongchang.com/api/v1/knowledge/claims/1102783MCP
get_claim(id=1102783)