待验证50% 置信事实精确时间

即使模型支持128K或更长上下文窗口，其有效利用率远低于理论上限

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

LLM智能体为什么三步后失控？原因与解决方案

涉及实体

相关事实

待验证即使模型标称支持128K甚至1M token的上下文窗口，其有效利用能力往往远低于标称值，实际可靠工作范围可能只有标称值的几分之一78% 相似待验证权重绑定在中小规模模型上(如GPT-2 124M)通常能提升性能并减少约30%的嵌入相关参数，但在超大规模模型中收益递减71% 相似待验证0.9B量级的模型经INT8量化后，理论推理内存占用可降至约1GB以下71% 相似待验证轻量版模型单次推理的算力消耗往往只有旗舰版本的十分之一甚至更低69% 相似已验证大模型推理时实际GPU利用率往往不足10%69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/895737

API

curl https://kongchang.com/api/v1/knowledge/claims/895737

MCP

get_claim(id=895737)