待验证50% 置信事实精确时间
469 tok/s 意味着生成 500 个 token 约耗时 1 秒出头
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证该测试中预填充速度固定在约 500~600 token/s，首 token 耗时随输入长度线性增加75% 相似待验证切换到 Max 后平均 token 飙升到 5000（超过 10 倍），平均耗时涨到 50 秒，最慢响应达到 600 秒71% 相似待验证对于500 Token的回答，流式输出可以让用户在首Token延迟（约500ms）后就开始看到内容，而非等待完整生成（约10秒）69% 相似待验证通常认为单并发 100 tokens/秒以上即可实现流畅的打字机效果，约 200 tokens/秒生成 2000 字长文本仅需约 10 秒67% 相似待验证在8GB显卡上，token生成速度约为4.2到5 token/秒，且随着上下文变长速度从约6 token/秒下降到4.2左右64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972285API
curl https://kongchang.com/api/v1/knowledge/claims/972285MCP
get_claim(id=972285)