待验证50% 置信事实精确时间

当算子的计算强度低于硬件的山脊点（峰值算力除以峰值带宽）时它是带宽受限的，反之则是算力受限

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

免费开源新书：从芯片到智能体，系统化提升ML模型速度

涉及实体

Rooflineconcept

相关事实

待验证大模型推理的性能上限往往不取决于芯片的峰值算力（FLOPS），而是取决于内存带宽75% 相似待验证硬件层面的使用限制往往比软件层面的专注模式或应用限时更彻底、更难绕过73% 相似待验证端侧推理的瓶颈往往不是峰值算力而是内存带宽，三元量化通过压缩参数减少每次推理需读取的数据量，是实现120 tok/s的关键73% 相似待验证算术强度（arithmetic intensity）指每字节内存访问对应的浮点运算次数，强度太低会导致内存带宽受限72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/958827

API

curl https://kongchang.com/api/v1/knowledge/claims/958827

MCP

get_claim(id=958827)