待验证50% 置信事实精确时间

推理延迟通常分解为首token延迟（TTFT）和后续token生成吞吐量两个核心指标

1

来源数

50%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

扩散语言模型崛起：DiffusionGemma实测速度碾压自回归模型

redditr/GoogleGeminiAI2026/7/11

相关事实

待验证对流式响应场景，应重点关注首Token延迟（TTFT）而非整体完成时间81% 相似待验证传统混合部署中Prefill阶段的大批量计算会阻塞Decode阶段的token生成，导致TTFT波动剧烈76% 相似待验证tokens/s指标可细分为首token延迟（TTFT）和生成速率（Generation Throughput）两个子维度71% 相似待验证推理延迟公式为：延迟 = (起草时间 + 验证时间) ÷ 每轮被接受的token数66% 相似待验证理论分析表明，在时间步长为T的轨迹上，行为克隆的累积误差以O(T²)的速度增长64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/497411

API

curl https://kongchang.com/api/v1/knowledge/claims/497411

MCP

get_claim(id=497411)