待验证50% 置信事实精确时间
Transformers.js底层使用ONNX Runtime Web，模型需要转为ONNX格式并量化，4-bit量化的1B模型大小约1.2GB而非5GB。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证MOSS-VL-Realtime提供4比特量化版本，按单张RTX 4090设计，110亿参数模型在4比特量化后权重占用可降至约5.5GB显存62% 相似待验证Llama-3.1-8B 等模型基于 Transformer 解码器堆叠构建，通常包含32个decoder层，单层参数量约2.5亿，FP16精度下单层约占500MB显存61% 相似待验证Flux 基于扩散 Transformer（DiT）架构，与 SD 系列使用的 U-Net 架构不同，完整版需要约 24GB 显存，量化版可压至 8GB 左右60% 相似待验证LLaMA-2 70B 模型共有 80 个 Transformer 层，每层约 8.75 亿参数，FP16 精度下单层约占 1.75GB 显存58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1051518API
curl https://kongchang.com/api/v1/knowledge/claims/1051518MCP
get_claim(id=1051518)