待验证50% 置信基准精确时间
长文档处理(预填充阶段)速度可达每秒140个Token。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/9
首次发现
有效期至:2027/2/7
来源
Intel MacBook跑本地大模型:400行Python管理面板实测
bilibili人工智能打老虎2026/11/9
涉及实体
相关事实
已验证正常语速每分钟可以输出150-200字,远超打字速度70% 相似待验证一个需要20次LLM调用、每次生成200个Token的Agent任务,在30 TPS下需要约133秒完成,在300 TPS下仅需13秒68% 相似待验证170 tokens/s 是跨所有并发任务的合计速度,而非单个 agent 的独立速度68% 相似待验证预填充阶段使用2-8块GPU的小专家并行组;批次从约4000 token增至16000 token时,吞吐从约6万token/s提升至8.2万token/s,每步延迟从约70毫秒增至200毫秒。68% 相似待验证通常认为单并发 100 tokens/秒以上即可实现流畅的打字机效果,约 200 tokens/秒生成 2000 字长文本仅需约 10 秒67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1152902API
curl https://kongchang.com/api/v1/knowledge/claims/1152902MCP
get_claim(id=1152902)