待验证50% 置信基准精确时间
3-bit Qwen3.8-27B 在测试者的引擎上解码速度为 153 tok/s（对比 132 tok/s），但每任务仍需 18 分钟而非 13 分钟。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/11/2
首次发现
有效期至：2026/11/16
来源
涉及实体
相关事实
待验证使用llama.cpp运行IQ3_XXS量化模型时，输出速度仅为15 tok/s，提示处理为100-120 tok/s，而自研引擎将同样量化提升到约65 tok/s输出、430 tok/s提示处理，接近4倍性能提升77% 相似待验证Qwen3 27B用Three.js生成3D赛车游戏时，上下文设置为65000，耗时2小时15分钟，平均每秒仅4.78个Token76% 相似待验证Qwen3-32B在H100上使用重叠式检查点加载相比默认普通加载方式实现2.38倍加速（35.6秒 vs 84.8秒）74% 相似待验证在约4K输入时TTFT为23.6秒、解码46.6 tok/s；8K时47秒、41.4 tok/s；16K时1分30秒、30.8 tok/s；30K时3分15秒、31.9 tok/s73% 相似已验证在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1127043API
curl https://kongchang.com/api/v1/knowledge/claims/1127043MCP
get_claim(id=1127043)