待验证50% 置信事实精确时间
token间延迟(ITL)是生成过程中相邻token之间的时间间隔,决定文本流式输出的流畅度
1
来源数
50%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
待验证文本生成阶段是memory-bound问题,速度受限于内存带宽;预填充阶段是compute-bound场景,可高度并行化61% 相似待验证语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限59% 相似已验证大语言模型生成文本是自回归(Autoregressive)的串行过程,每次只生成一个Token,导致输出阶段无法充分并行化,计算强度高于输入编码阶段59% 相似待验证输入Token可以在prefill阶段并行处理,而输出Token必须在decode阶段逐个串行生成58% 相似待验证韵律事件文本化将停顿、词语拉长等韵律事件编码为显式标记,并采用带时长感知的有界重复机制表示事件强度57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/933097API
curl https://kongchang.com/api/v1/knowledge/claims/933097MCP
get_claim(id=933097)