待验证50% 置信事实精确时间
自回归推理时batch size通常为1，每个token生成只做一次矩阵-向量乘法，算术强度极低，导致memory-bound问题，单用户场景下GPU利用率往往不到10%
1
来源数
50%
置信度
长期有效
时效性
2026/8/27
首次发现
来源
涉及实体
引用此条事实
Stable URI
https://kongchang.com/claim/810211API
curl https://kongchang.com/api/v1/knowledge/claims/810211MCP
get_claim(id=810211)