待验证50% 置信解决方案精确时间

带宽受限指数据搬运速度跟不上计算速度，常见于权重大但计算量小的场景（如LLM单步解码），量化压缩权重体积是有效手段

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

免费开源新书：从芯片到智能体，系统化提升ML模型速度

涉及实体

LLMconcept 量化concept

相关事实

待验证主机卸载用带宽换显存空间，代价是数据传输延迟；激活重计算用算力换显存，二者可互补配合77% 相似待验证LLM 推理通常是内存带宽瓶颈而非计算瓶颈，量化通过减少内存带宽需求提升吞吐73% 相似待验证自回归文本生成属于内存带宽受限任务，内存带宽而非算力峰值是真正的性能瓶颈72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/958822

API

curl https://kongchang.com/api/v1/knowledge/claims/958822

MCP

get_claim(id=958822)