待验证50% 置信基准精确时间
实测中,三比特量化版本的输出速度为每秒53个Token。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/16
首次发现
有效期至:2026/10/30
来源
12GB显卡本地跑1250亿参数大模型 Strata实测
bilibili宇智波刘能king2026/10/15
涉及实体
相关事实
待验证在LongLive基准测试中,Speculative Forcing匹配四步生成器的质量,平均每个token仅需约1.7个去噪步骤,运行速度提升超过1.5倍,达到41.7和37.8 fps的生成帧率。68% 相似待验证在模型对比测试中qwen2.5:3b正确理解配速,幻觉地名0个,长度误差0.3%,峰值内存259MB,耗时106秒68% 相似待验证模型在铅笔计数的多模态图片识别测试中给出34只的正确答案,此时速度为每秒55 Token68% 相似待验证该模型在测试平台上的峰值解码速度约为 274 token/秒67% 相似待验证投机采样中当候选 token 的接受率较高时,每次前向传播的有效输出 token 数量可达 2~4 个,从而将整体生成速度提升 1.5x~3x67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1044922API
curl https://kongchang.com/api/v1/knowledge/claims/1044922MCP
get_claim(id=1044922)