待验证50% 置信事实精确时间
该Bug源于llama.cpp的fp16快速路径标志位未将sm_60(P100)排除,而sm_61(GTX 10系、P40)早已被排除
1
来源数
50%
置信度
长期有效
时效性
2026/7/25
首次发现
来源
三行代码修复:Tesla P100在llama.cpp中精度提升2300倍
redditr/LocalLLaMA2026/7/12
相关事实
待验证GTX 10系列显卡和P40(架构代号sm_61)早已被排除在llama.cpp的fp16快速路径之外,但P100(架构代号sm_60)没有被排除81% 相似待验证P100作为数据中心旗舰配备了专用的FP16 SIMD单元,理论上可实现21.2 TFLOPS的FP16算力,是Pascal家族中唯一拥有快速fp16硬件单元的型号66% 相似待验证该精度问题仅在sm_60(P100)上被测量和确认,GTX 1080、P40等sm_61架构以及Volta及更新架构(包括RTX系列)不受此补丁影响64% 相似待验证llama.cpp推理框架并不原生支持FP8格式,Q8_0不等于FP863% 相似待验证GTX 10系(sm_61,GP104芯片)刻意阉割FP16性能,需拆分为两个FP32操作,FP16算力仅约为FP32的一半59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/613150API
curl https://kongchang.com/api/v1/knowledge/claims/613150MCP
get_claim(id=613150)