待验证50% 置信事实精确时间

通用LLM的输出是开放式token序列，需自回归逐token生成，计算量随输出长度线性增长

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

开源本地决策模型：比云端API快近20倍

涉及实体

大语言模型concept

相关事实

待验证现代主流LLM采用自回归生成方式，逐个token按顺序生成74% 相似待验证输出生成是严格串行的自回归过程，每生成一个token都需要一次完整的模型前向传播68% 相似待验证LLM自回归解码阶段每生成一个token都需从显存加载全量模型权重，批量较小时形成内存墙68% 相似待验证LLM的每次调用可以被建模为伯努利试验，N次独立调用的通过次数服从二项分布B(N, p)67% 相似待验证生产级LLM应用往往需要多次调用LLM、解析输出、以及在不同步骤间传递上下文67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/947193

API

curl https://kongchang.com/api/v1/knowledge/claims/947193

MCP

get_claim(id=947193)