概念E4M3 / FP8 E4M3
FP8 E4M3
一种8位浮点格式，包含4位指数和3位尾数，动态范围较窄但精度较高，适合KV缓存等数值分布集中的场景
时间轴 (近 90 天)
10月3日
DeepEP 将 Token 数据从 BF16 压缩为 FP8 E4M3，体积减半，并为每个 Token 附带一个 scale 因子用于还原，属于 per-token 量化粒度
待验证50%
一种8位浮点格式，包含4位指数和3位尾数，动态范围较窄但精度较高，适合KV缓存等数值分布集中的场景
DeepEP 将 Token 数据从 BF16 压缩为 FP8 E4M3，体积减半，并为每个 Token 附带一个 scale 因子用于还原，属于 per-token 量化粒度