待验证50% 置信事实精确时间

端侧推理优化和流式处理技术使得实时 ASR 的延迟可以控制在200-500毫秒以内

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Live Captions：扫码即用的实时多语言字幕工具详解

涉及实体

相关事实

待验证实时AI家教端到端延迟由ASR延迟(50-500ms)、LLM首Token生成延迟(100-2000ms)和TTS首音频帧延迟(50-300ms)三段叠加构成77% 相似待验证建议将大模型节点的异常处理超时时间从默认180秒调整为平台最大值600秒，以避免多模态图像输入推理超时被误判为失败77% 相似待验证前台轻量模型的推理延迟通常需要控制在200毫秒以内，以匹配人类对实时的感知阈值76% 相似待验证专用安全分类模型的推理延迟可控制在200-500毫秒，配合量化技术和GPU推理优化可压缩至100毫秒级别76% 相似待验证流式输出可以将用户感知的首字延迟从数秒降低到毫秒级别76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/894863

API

curl https://kongchang.com/api/v1/knowledge/claims/894863

MCP

get_claim(id=894863)