待验证50% 置信基准精确时间
arXiv 的 SpecDec-Hybrid 论文报告在 4 卡节点上实现 2.3 倍墙钟加速，2k Token 长文生成的延迟从 12 秒降到约 5 秒。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证在8GB显卡上，token生成速度约为4.2到5 token/秒，且随着上下文变长速度从约6 token/秒下降到4.2左右77% 相似待验证为分离变量额外做了两次单次运行：把agy的模型降到gemini-3.8-flash-low，耗时仍有332秒、67次工具调用；换成claude-opus-5-5-high，agy只用51秒、7次工具调用，接近Claude Code的29秒。慢的根源在默认Gemini模型的工作方式，而非CLI外壳。73% 相似待验证Perplexity 公布自测延迟（9月30日）：几百输入 token 低于 2 秒，90k token 约 5 秒，190k token 约 14 秒，接近 262k 上限约 23 秒。72% 相似待验证Neon检查点机制建分支约650毫秒，回滚到分支约2.9秒72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054140API
curl https://kongchang.com/api/v1/knowledge/claims/1054140MCP
get_claim(id=1054140)