待验证50% 置信基准精确时间
TTS语音模型权重约4.5GB,实测4.7–4.8GB,因为TTS在请求间无状态,没有长上下文和队列缓冲
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证一张24GB显存的RTX 3090同时运行Whisper ASR、TTS语音模型和nomic-embed-text三个服务时,三个模型常驻占用17.8GB(72%),一周内峰值达到23.4GB,全程没有溢出到系统内存76% 相似待验证TTM 模型参数量仅约 0.8M(百万级),文件大小约三兆字节,无需 GPU,在普通 CPU 上就能运行68% 相似待验证语音Agent典型端到端延迟预算约为STT finalization 100-300ms + LLM TTFT 200-500ms + TTS TTFA 150-250ms + 网络开销50-100ms,总计500-1150ms65% 相似待验证通过 request-owned speculative KV,在 DeepSeek-V4-Pro 1P1D、MI355X、并发 256 场景下,平均 TTFT 从 19.4 秒降至 15.1 秒63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1002814API
curl https://kongchang.com/api/v1/knowledge/claims/1002814MCP
get_claim(id=1002814)