待验证75% 置信事实时间未知

20 tokens/s以上的输出速度可以实现流畅的实时阅读体验，低于5 tokens/s则会让用户明显感到等待

1

来源数

75%

置信度

长期有效

时效性

2026/6/2

首次发现

来源

Hertzman木马人：免费免安装的本地大模型部署工具评测

bilibili是但求其发

涉及实体

推理速度concept

相关事实

待验证对于单用户交互式场景推理速度达到5-10 token/s通常就能提供流畅体验，而代码生成、长文档摘要或多轮Agent调用往往需要30 token/s以上76% 相似待验证短期记忆通过在提示词中拼接历史对话实现，受限于模型上下文长度，通常4K到200K tokens不等67% 相似待验证在登录场景中，用户不存在时跳过bcrypt运算与用户存在时执行bcrypt运算，两者响应时间差异可达数十毫秒64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/36431

API

curl https://kongchang.com/api/v1/knowledge/claims/36431

MCP

get_claim(id=36431)