概念Latency
响应延迟
衡量语音交互系统实时性的关键指标,通常拆分为首包延迟(从用户说完到系统发出第一个音频包的时间)和端到端延迟(包含网络与推理的总时延)。人类自然对话轮次转换间隔平均约 200 毫秒,超过 500 毫秒用户会明显感到停顿。
时间轴 (近 90 天)
10月24日
若系统延迟超过 500 毫秒,用户便会明显感到停顿与不自然。
待验证50%
10月18日
长上下文下的token消耗和响应延迟会直接影响AI Galgame的体验沉浸感。
待验证50%
衡量语音交互系统实时性的关键指标,通常拆分为首包延迟(从用户说完到系统发出第一个音频包的时间)和端到端延迟(包含网络与推理的总时延)。人类自然对话轮次转换间隔平均约 200 毫秒,超过 500 毫秒用户会明显感到停顿。
若系统延迟超过 500 毫秒,用户便会明显感到停顿与不自然。
长上下文下的token消耗和响应延迟会直接影响AI Galgame的体验沉浸感。