待验证50% 置信事实精确时间

FP8相比FP16减少一半内存占用和带宽消耗，且AIC对FP8的计算吞吐可达FP16的两倍

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

拆解DeepEP与DeepGEMM：MoE通信与大模型矩阵计算加速实战

涉及实体

FP8technology FP16technology AICtechnology

相关事实

待验证官方提供FP8量化检查点（Hy3-FP8），FP8量化相比FP16可将显存占用和显存带宽需求减半78% 相似待验证从BF16到FP8内存占用减半76% 相似已验证FP8数据量比FP16压缩一半，H100的FP8 Tensor Core算力达到FP16的两倍（约1979 TFLOPS）74% 相似待验证量化将FP32权重转为INT8或FP16，在保持音质前提下减少计算量和内存带宽压力72% 相似待验证双重量化对每64个参数共享的FP32缩放因子进一步量化为FP8格式，使每个参数的量化开销从0.5bit降低到约0.127bit71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/963588

API

curl https://kongchang.com/api/v1/knowledge/claims/963588

MCP

get_claim(id=963588)