待验证50% 置信基准精确时间
@Teknium的数据显示,Jev压缩与普通摘要对比:保留115K token对55K,召回率76%对79%,在相同预算下Jev排序与普通近期性方法打平(77.8对77.8)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/12
首次发现
有效期至:2026/10/26
来源
涉及实体
相关事实
待验证Jev开箱即支持最高64K token上下文,而CLM-8B仅在2K到8K上下文范围内经过测试和校准,超过8K后的表示尚未针对参考头校准63% 相似待验证传统KV缓存实现预先分配最大长度连续显存块,导致平均60%-80%的预分配内存被浪费63% 相似待验证稀疏激活降低的是计算量而非存储占用,78B总参数仍需可观的显存或内存资源62% 相似已验证以LLaMA-2 70B为例,处理4096 token上下文、批量大小32时,KV Cache可消耗超过80GB显存62% 相似待验证作者认为用Jev做上下文压缩(compaction)行不通,因为压缩需要基于全部历史合成摘要且32K上下文不够61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1006164API
curl https://kongchang.com/api/v1/knowledge/claims/1006164MCP
get_claim(id=1006164)