待验证50% 置信事实精确时间
Ollama根据检测到的显存动态设定默认上下文长度：显存不到24GB约给4000 token，48GB给约32000，更高可达256000
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/20
首次发现
有效期至：2026/12/19
来源
涉及实体
相关事实
待验证Ollama 默认使用 Q4_K_M 等量化方案，将 31B 参数模型的显存需求从约 62GB（FP16）降低到约 20GB75% 相似待验证在实验配置下Ollama将840M识别为约16GB显存（16193 MiB），加载时约14.6 GiB可供Vulkan设备使用72% 相似待验证在4bit量化版本（完全放入32GB显存）测试中，Ollama达240 tokens/s，FreeToken为225 tokens/s，Ollama反而更快71% 相似已验证Muse Glimmer全精度运行需要55GB显存，通过4-bit量化后压缩到20GB以内，可在24GB显存的消费级显卡上运行68% 相似已验证一个原本需要60GB显存的30B参数模型，经过量化后能在16GB甚至8GB显存的消费级显卡上运行67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/937566API
curl https://kongchang.com/api/v1/knowledge/claims/937566MCP
get_claim(id=937566)