待验证50% 置信事实精确时间

上下文长度 131072 即 128K tokens，上下文越长推理时显存消耗和延迟也会显著上升

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

开源神器 Tracer：让多个 AI 智能体协作编程

涉及实体

context lengthconcept

相关事实

待验证短期工作记忆即上下文窗口通常为8K至128K tokens，长期记忆通常以向量数据库形式存储72% 相似待验证当上下文从4K token扩展到128K token时（32倍），理论计算量增长约1024倍71% 相似待验证更高的显存带宽意味着更低的首 token 延迟（TTFT）和更高的每秒生成 token 数（TPS）70% 相似待验证将上下文从8K token扩展到1M token，理论计算量增长约15000倍70% 相似待验证实测32K上下文的prefill读取速度达到每秒3860 Token70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/992870

API

curl https://kongchang.com/api/v1/knowledge/claims/992870

MCP

get_claim(id=992870)