待验证50% 置信基准精确时间
在低内存、长上下文的模拟推理场景中,KV共享带来三项提升:缓存命中率最高提升31.4%,吞吐最高提升23.6%,p90首token时间最多降低83.6%。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/23
首次发现
有效期至:2026/11/6
来源
涉及实体
相关事实
待验证模型提供 low、high、max 三档推理档位;实测 max 比 high 多生成约 16% 的 token,推理任务总耗时几乎相同。70% 相似待验证Long-Term团队实验表明,用同一个模型仅调整规则约束和记忆系统,成绩从52.8%涨到66.5%,排名从Top 30跳到Top 569% 相似待验证记忆检索的综合分数中相似度权重最大,时间新近度占比小,并乘以范围约0.8到1.2的重要性因子69% 相似待验证引入显式的解析器(resolver)处理信息取代关系后,陈旧记忆类失败降到零,整体准确率从33%跃升至78%68% 相似待验证在消融研究中,不使用任何数据、仅靠参数记忆时,即使最好的模型也表现不佳;提供季度初期数据后表现提升约25个百分点;但距离使用最新数据仍有12-16个百分点的差距。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088250API
curl https://kongchang.com/api/v1/knowledge/claims/1088250MCP
get_claim(id=1088250)