待验证50% 置信事实精确时间

大语言模型处理输入时，会为每个token计算注意力机制中的Key和Value向量，这些向量在生成回复时被反复使用。

1

来源数

50%

置信度

长期有效

时效性

2026/10/20

首次发现

来源

12小时提示词缓存：AI对话成本优化新策略

涉及实体

大语言模型concept 注意力机制concept

相关事实

已验证大型语言模型处理长上下文时，注意力机制的计算复杂度与序列长度的平方成正比78% 相似已验证自注意力机制允许模型在处理每个词元时同时参考序列中所有其他词元的上下文信息，而非像RNN那样顺序处理78% 相似待验证上下文窗口指模型单次推理能够看到的 token 总量，包含输入与输出；注意力机制计算量随序列长度呈平方级增长。77% 相似待验证在大语言模型推理中，KV-Cache用于存储注意力机制中已计算的键值对，从而避免重复计算77% 相似已验证大模型生成输出采用自回归方式逐个token生成，每生成一个token都需重新计算对所有前文的注意力76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1078501

API

curl https://kongchang.com/api/v1/knowledge/claims/1078501

MCP

get_claim(id=1078501)