待验证50% 置信事实精确时间

状态空间模型（SSM）推理时内存占用和计算量均为O(1)，而Transformer的KV缓存随序列长度线性增长

1

来源数

50%

置信度

长期有效

时效性

2026/9/23

首次发现

来源

深入理解大模型推理：为什么生成如此之慢，又该如何加速

涉及实体

SSMconcept Transformerconcept

相关事实

待验证Transformer模型通过KV Cache机制加速推理，但其内存占用与上下文长度成正比73% 相似待验证Transformer架构中模型参数量与推理延迟之间呈近似线性关系71% 相似待验证自回归模型每多生成一个token就多获得一次Transformer前向传播的计算机会，用序列长度换取计算深度70% 相似已验证Mamba等状态空间模型（SSM）抛弃注意力机制，用循环结构实现线性时间复杂度的序列建模69% 相似已验证Transformer的自注意力机制允许模型直接计算序列中任意两个位置之间的依赖关系，突破了RNN/LSTM因顺序计算导致的并行化瓶颈69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/942442

API

curl https://kongchang.com/api/v1/knowledge/claims/942442

MCP

get_claim(id=942442)