待验证50% 置信事实精确时间

将上下文窗口从 8K 扩展到 128K，计算成本会增长 256 倍

1

来源数

50%

置信度

长期有效

时效性

2026/9/8

首次发现

来源

ripwire：为AI编程助手绘制代码库地图的开源工具

涉及实体

Transformerconcept

相关事实

已验证主流模型的上下文窗口已从最初的4K扩展到128K甚至更大，但更大的上下文意味着更高的推理延迟和成本75% 相似待验证Sliding Window Attention、RoPE位置编码扩展等技术将上下文窗口从早期的2K Token扩展至128K乃至百万Token级别73% 相似待验证现代大模型上下文窗口已从早期4K Token扩展到128K甚至更长，注意力机制计算量随上下文长度呈平方级增长70% 相似待验证数千亿参数模型处理128K上下文窗口时，KV Cache可能占据数十GB显存69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/879846

API

curl https://kongchang.com/api/v1/knowledge/claims/879846

MCP

get_claim(id=879846)