待验证50% 置信事实精确时间
每 token 生成时间(TPOT)衡量模型在自回归解码阶段逐个生成 token 的速度
1
来源数
50%
置信度
长期有效
时效性
2026/8/30
首次发现
来源
涉及实体
相关事实
待验证注意力机制计算当前 token 与所有历史 token 相关性的时间复杂度为 O(n²),其中 n 为序列长度68% 相似待验证TimesFM采用patch-based tokenization,将连续若干时间步打包为一个patch作为单个token处理,类似于ViT的图像切块策略64% 相似待验证对于单用户交互式场景推理速度达到5-10 token/s通常就能提供流畅体验,而代码生成、长文档摘要或多轮Agent调用往往需要30 token/s以上63% 相似待验证20 tokens/s以上的输出速度可以实现流畅的实时阅读体验,低于5 tokens/s则会让用户明显感到等待62% 相似待验证自动标注的价值应以端到端时间衡量,公式为:节省时间 = 从零标注的时间 - (预标注生成时间 + 人工修正时间)61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/823666API
curl https://kongchang.com/api/v1/knowledge/claims/823666MCP
get_claim(id=823666)