待验证50% 置信基准精确时间
在AppWorld和τ³两个基准上,使用两种目标模型进行测试,SpecCompact相比Hermes风格摘要实现了2.04至5.63倍的压缩加速。
1
来源数
50%
置信度
长期有效
时效性
2026/11/5
首次发现
来源
SpecCompact:槽位并行推测加速LLM智能体上下文压缩
rss2026/11/4
涉及实体
相关事实
待验证在模型对比测试中qwen2.5:3b正确理解配速,幻觉地名0个,长度误差0.3%,峰值内存259MB,耗时106秒64% 相似待验证在27B混合架构、4B稠密模型、36B MoE三类模型上以8k上下文测试,Prefill阶段性能无变化,Decode阶段打补丁后快约1.4%63% 相似待验证在 B300 EP8 解码场景下,相较于未调优的默认实现,Chord 加速比达到 2.15 倍62% 相似待验证经过精心量化的4-bit模型与FP16原始模型之间的性能差距通常在1-3个百分点以内61% 相似待验证恢复刷新后的Claude候选完成加速比2.75×、首字节加速比2.80×,而Gemini完成加速比3.44×、首字节加速比3.54×,GPT-5.4完成加速比2.16×、首字节加速比2.19×61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1139051API
curl https://kongchang.com/api/v1/knowledge/claims/1139051MCP
get_claim(id=1139051)