待验证50% 置信解决方案精确时间

大模型推理的性能上限往往不取决于芯片的峰值算力（FLOPS），而是取决于内存带宽

1

来源数

50%

置信度

长期有效

时效性

2026/9/22

首次发现

来源

高通发布两款AI手机芯片：旗舰型号可本地运行300亿参数MoE模型

涉及实体

内存带宽concept 大模型推理concept

相关事实

已验证大模型推理的瓶颈往往不在算力而在内存带宽，GPU的算力利用率在推理阶段往往不到峰值的10%78% 相似待验证在超长上下文推理场景中，性能瓶颈往往不是算力而是KV缓存本身77% 相似已验证移动端模型推理的速度瓶颈往往不在算力而在内存带宽76% 相似待验证神经网络推理的性能往往受限于内存带宽（memory-bound）而非算力（compute-bound）76% 相似待验证硬件性能定位入门级，CPU处理能力有限，开启大量防火墙规则或跑复杂队列时，千兆线速转发可能跑不满，对高吞吐+复杂规则有刚需应考虑更高端型号75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/942020

API

curl https://kongchang.com/api/v1/knowledge/claims/942020

MCP

get_claim(id=942020)