待验证50% 置信事实精确时间

传统模型的上下文长度通常只有4K到32K，超过则模型会遗忘。

1

来源数

50%

置信度

长期有效

时效性

2026/10/16

首次发现

来源

12GB显卡本地跑1250亿参数大模型 Strata实测

bilibili宇智波刘能king2026/10/15

涉及实体

上下文长度concept

相关事实

待验证本地小模型受限于显存，通常只能稳定运行在 8K 至 32K 的上下文区间。72% 相似待验证本地运行的模型通常有上下文窗口上限，如 4K、8K、32K Token 不等70% 相似已验证4-bit量化理论上可将模型体积缩小8倍（相比32位存储）69% 相似待验证一个32K上下文窗口在Q4量化模型上可能额外占用2-4GB内存68% 相似待验证端到端多模态大模型方案通常需要16GB以上显存68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1044926

API

curl https://kongchang.com/api/v1/knowledge/claims/1044926

MCP

get_claim(id=1044926)