待验证50% 置信基准精确时间
在Chat配置(单会话)下,262K上下文时提示处理800-970 t/s、生成30-40 t/s;131K上下文时提示处理930-1,040 t/s、生成30-45 t/s。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/26
首次发现
有效期至:2026/11/9
来源
涉及实体
相关事实
待验证据 B 站 UP 主分享的实测信息,在 128G 统一内存、873G 带宽、2070 TOPS 算力的硬件平台上,千问 30B 级模型在代码任务中实现了单流 100 TPS 以上的表现。69% 相似待验证SteerTTS edge 在纯 CPU 环境(2018 款 Threadripper,带负载)下 4 线程 RTF 为 0.053(约 19 倍实时),配合句子级流式首包音频延迟约 120 ms。65% 相似待验证在 M4 Max 上,文本路线使用 Omni 3B + TTS 1.7B(4.61 GB)的完整回合中位数耗时为 4.27 秒,峰值进程 RSS 为 3.86 GiB。65% 相似待验证复现者实测HyperQwen在RTX 3090上的真实聊天场景吞吐量约为118 tok/s(贪婪解码四个prompt平均118.1 tok/s,范围111-131;温度0.7采样下123.3 tok/s),远低于381 tok/s。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1099107API
curl https://kongchang.com/api/v1/knowledge/claims/1099107MCP
get_claim(id=1099107)