待验证50% 置信事实精确时间

GLM-OCR经INT8量化后可在单张消费级GPU（如RTX 3060/4060，12GB显存）乃至部分移动端NPU上运行推理

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/7

首次发现

有效期至：2026/12/6

来源

GLM-OCR：0.9B参数轻量模型如何撼动文档识别格局

涉及实体

GLM-OCRmodel RTX 3060product RTX 4060product

相关事实

待验证INT4/INT8量化版本模型可在消费级GPU如RTX 4090上运行70B以下参数规模的模型73% 相似待验证量化技术（GGUF、AWQ等）使得在消费级GPU上运行7B至13B参数的VLM成为可能71% 相似待验证配合Ollama、llama.cpp等推理框架，普通消费级GPU如RTX 4090可流畅运行70B参数以内的模型71% 相似已验证LoRA使得在消费级GPU（如RTX 4090）上微调十亿级参数模型成为可能71% 相似待验证借助llama.cpp、Ollama等推理框架，普通消费级GPU甚至仅凭CPU即可运行7B至14B参数模型70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/869539

API

curl https://kongchang.com/api/v1/knowledge/claims/869539

MCP

get_claim(id=869539)