待验证50% 置信权衡取舍精确时间

P100的HBM2在decode阶段几乎完全受内存带宽限制，FP16向量单元并非decode阶段的瓶颈，禁用该路径后速度反而略有提升

1

来源数

50%

置信度

长期有效

时效性

2026/7/24

首次发现

来源

三行代码修复：Tesla P100在llama.cpp中精度提升2300倍

redditr/LocalLLaMA2026/7/12

相关事实

待验证官方提供FP8量化检查点（Hy3-FP8），FP8量化相比FP16可将显存占用和显存带宽需求减半65% 相似待验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%64% 相似待验证从BF16到FP8内存占用减半63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/608971

API

curl https://kongchang.com/api/v1/knowledge/claims/608971

MCP

get_claim(id=608971)