待验证50% 置信事实精确时间

FP8相比BF16可提供约2倍的内存带宽节省和更高的矩阵计算吞吐

1

来源数

50%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

DeepSeek-V4 Flash RL训练成功迁移AMD MI355X GPU全解析

twitterlmsysorg2026/7/10

相关事实

待验证相比BF16，FP8能将模型权重和计算数据量减半，理论上可将矩阵乘法内存带宽需求降低50%，并在支持FP8 Tensor Core的GPU上获得2倍以上计算吞吐量提升81% 相似待验证FP4 相对 FP16 可节省75%存储，采用每组16或32个权重共享一个 FP8 缩放因子的分组量化策略72% 相似部分验证标准的FP32模型每个参数占用4字节，而INT4量化将其压缩至0.5字节，理论上可实现8倍的内存节省72% 相似待验证INT4 相较 FP16 实现了 4 倍存储压缩68% 相似待验证量化KV缓存（如FP8或INT4存储KV向量）可将缓存大小压缩到原来的1/2甚至1/468% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/490939

API

curl https://kongchang.com/api/v1/knowledge/claims/490939

MCP

get_claim(id=490939)