待验证50% 置信事实精确时间
W8A8量化指权重和激活都压缩为8位整数；相比FP16可降低显存占用、提升NPU吞吐，代价是可能带来轻微精度损失。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
涉及实体
相关事实
已验证FP8量化技术通过将权重压缩为8位表示，在几乎不损失精度的前提下将显存占用减少约50%78% 相似待验证相比BF16，FP8能将模型权重和计算数据量减半，理论上可将矩阵乘法内存带宽需求降低50%，并在支持FP8 Tensor Core的GPU上获得2倍以上计算吞吐量提升76% 相似待验证int8量化是一种将神经网络权重从32位或16位浮点数压缩为8位整数的模型压缩技术，可将显存占用减少约50%-75%71% 相似待验证模型量化是将模型权重和激活值从 FP16/BF16 等高位宽压缩到 FP8、INT8 甚至 INT4，以降低显存占用、提升访存带宽利用率并加速计算。70% 相似待验证量化（Quantization）是把模型参数的保存精度从16bit压缩到8bit甚至4bit，从而降低内存占用，但代价是模型精度可能出现一定损失68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1035442API
curl https://kongchang.com/api/v1/knowledge/claims/1035442MCP
get_claim(id=1035442)