待验证50% 置信事实精确时间
上下文窗口是时序基础模型(以及所有基于 Transformer 的模型)一次前向计算能够处理的最大 token 数量,由模型架构中的位置编码和注意力机制的复杂度共同决定;窗口大小是训练时固定的超参数,推理时无法扩展。
1
来源数
50%
置信度
长期有效
时效性
2026/10/20
首次发现
来源
涉及实体
相关事实
待验证上下文窗口指模型单次推理能够看到的 token 总量,包含输入与输出;注意力机制计算量随序列长度呈平方级增长。75% 相似已验证LLM的记忆依赖于上下文窗口,即模型在单次推理时能够处理的最大Token数量74% 相似待验证上下文窗口是指大模型在单次推理中能够处理的最大Token数量,更大的上下文窗口意味着更高的计算成本73% 相似部分验证上下文窗口指大模型单次推理能够处理的最大token数量,涵盖输入prompt与输出completion之和,超出窗口的内容会被截断或导致调用失败。73% 相似待验证上下文窗口占用的显存是与模型权重分开计算的,KV缓存显存占用随上下文长度线性增长72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1075085API
curl https://kongchang.com/api/v1/knowledge/claims/1075085MCP
get_claim(id=1075085)