待验证50% 置信事实精确时间
763B全量FP8权重分为48个分片，合计约510GB，消费级硬件难以承载；4比特量化相对稳定，3比特会出现死循环。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
DeepSeek V4.1 Flash更新：参数真相、跑分争议与成本革命
bilibiliAI技术投降派2026/10/18
涉及实体
相关事实
已验证35B模型在FP16精度下需要约70GB显存，远超RTX 5090的32GB容量，因此单卡部署需量化77% 相似待验证UP主使用FP8精度部署千问3.8 27B在48GB显卡上，跑4个并发request占用约46GB76% 相似已验证以LLaMA-3 70B（80层、64头、每头128维）为例，单个token的KV Cache约占2.6MB（FP16精度），32K上下文的KV Cache总量约达83GB76% 相似已验证140GB的FP16 70B模型经4-bit量化后可压缩至约35-40GB，通信开销降低约75%；2-bit量化可压缩至约18GB但带来精度损失74% 相似待验证P100采用4颗HBM2堆叠，总带宽达732 GB/s，远超同期消费级GTX 1080的320 GB/s74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1059811API
curl https://kongchang.com/api/v1/knowledge/claims/1059811MCP
get_claim(id=1059811)