待验证60% 置信事实时间未知
对于500 Token的回答，流式输出可以让用户在首Token延迟（约500ms）后就开始看到内容，而非等待完整生成（约10秒）
1
来源数
60%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
LangChain 1.3 事件流实战：4大视角实时监控Agent运行全过程
bilibili小天老师的AI大课堂
相关事实
待验证通常认为单并发 100 tokens/秒以上即可实现流畅的打字机效果，约 200 tokens/秒生成 2000 字长文本仅需约 10 秒73% 相似待验证流式输出可以将用户感知的首字延迟从数秒降低到毫秒级别73% 相似待验证Anthropic 的 Prompt Caching API 要求缓存前缀至少达到1024个 token，缓存有效期通常为5分钟，在活跃会话中可自动续期70% 相似待验证Copilot从停止输入到看到补全建议出现的整个链路通常在200-800毫秒之间完成69% 相似待验证过于保守的VAD设置可能在用户停顿后等待400-800ms才判定句子结束，这段等待时间叠加在系统可感知延迟之上69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/22460API
curl https://kongchang.com/api/v1/knowledge/claims/22460MCP
get_claim(id=22460)