待验证50% 置信事实精确时间
DeepInfer对硬件提出三个期望：专家权重用FP4、激活和KV用FP8、缩放因子用UE8M0的低精度格式；每Token的KV Cache小于1KB；瓶颈转向大规模高速互联和设备端通信。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/25
首次发现
有效期至：2027/1/23
来源
涉及实体
相关事实
待验证DeepSeek在V3.1时期就提出UE8M0 FP8是为下一代国产芯片设计，这次在DeepInfer中全面落地，意味着不支持该格式的芯片在精度或性能上会直接吃亏。79% 相似待验证DeepInfer 系统设计之初定了三个目标：兼容不同厂商芯片、围绕常见硬件组织预填充和解码、让 KV 缓存至少保留 72 小时。76% 相似待验证DeepSeek-V4.1 采用非对称激活参数设计：输入时仅激活 8B 参数，输出时激活 16B 参数，同时 KV Cache 和内存占用相比前代明显减少73% 相似待验证DeepSeek算子在华为昇腾超节点上的互联带宽已接近硬件上限72% 相似待验证DeepInfer 支持哪些硬件、是否兼容其他模型、与主流推理框架相比的实际表现如何，目前尚无公开信息。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1095890API
curl https://kongchang.com/api/v1/knowledge/claims/1095890MCP
get_claim(id=1095890)