待验证50% 置信事实精确时间
TTS引擎单独运行时生成1秒音频约需0.6秒(RTF约0.6),但与LLM共享GPU后,首句合成时间膨胀到其自身长度的约1.5倍,而LLM空闲时仅需约1.0倍。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/16
首次发现
有效期至:2027/1/14
来源
涉及实体
相关事实
待验证在RTX 4060 Laptop(8GB显存)上,让LLM主动暂停等待TTS逐句合成,可以消除语音播放卡顿,代价是LLM整体生成时间大幅延长(测试中从约12秒增至约54秒)。76% 相似待验证在同一张T4上,vLLM 0.27.1在ready之后的8个请求总共只花了5.8秒;vLLM的启动开销约为171个计费秒中的165秒。75% 相似待验证RTF(实时速度倍率)定义为生成音频所需计算时间与音频时长的比值,5倍实时速度对应RTF=0.273% 相似待验证邮件分类任务中,TEF 1(4B)跑完全部样本耗时 1.273 秒,GPT 需要 2.568 秒;赞助询价评分任务中 TEF 1 耗时 1.09 秒,GPT 约 2.58 秒。71% 相似待验证一个需要20次LLM调用、每次生成200个Token的Agent任务,在30 TPS下需要约133秒完成,在300 TPS下仅需13秒71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1043806API
curl https://kongchang.com/api/v1/knowledge/claims/1043806MCP
get_claim(id=1043806)