待验证50% 置信事实精确时间
当前开源 VLM 常见规模从 2B 到 70B 以上不等，4B 属于轻量级区间。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/2
首次发现
有效期至：2027/1/31
来源
涉及实体
相关事实
待验证主流开源多模态模型上下文长度通常在4K到32K之间，LLaVA-1.5为4096 token，Qwen-VL为8192 token，InternVL2扩展到32K69% 相似待验证主流量化格式（如AWQ、GPTQ、GGUF K-Quants）的实际有效位宽（bpw）通常高于4，例如INT4 AWQ group_size=128约为4.5 bpw，GGUF Q4_K_M约为4.85 bpw。66% 相似待验证MiniCPM 2B的GGUF量化版本Q4_K_M模型体积仅1.56G，可在4G显存设备上流畅运行64% 相似待验证一位B70用户使用 vLLM + GPT-Q INT4 量化、MTP 深度4，在27B模型上跑出 84.6 tokens/s，但只支持单流且用了不同量化无法直接对比64% 相似待验证DeepSeek-V3 总参数达 685B，以 Q4 量化后体积仍超过 400GB64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125935API
curl https://kongchang.com/api/v1/knowledge/claims/1125935MCP
get_claim(id=1125935)