待验证50% 置信事实精确时间
算术强度（Arithmetic Intensity）衡量每字节内存访问对应的浮点运算量（FLOP/Byte）
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证单Token生成的算术强度约为1 FLOP/Byte，导致GPU计算单元利用率不到1%65% 相似待验证大模型推理通常处于内存带宽受限状态，llama-2-70B推理计算强度约1-2 FLOP/Byte，远低于H100峰值计算强度阈值约120 FLOP/Byte65% 相似待验证H100的屋顶线约为300 FLOPS/Byte，自回归推理算术强度约1-2 FLOPS/Byte，而DiffusionGemma通过并行处理将算术强度提升约256倍，从memory-bound转为compute-bound65% 相似待验证大语言模型自回归生成阶段属于内存带宽受限任务，单batch推理算术强度约1-2 FLOP/Byte，远低于RTX 4090的计算/带宽比约160 FLOP/Byte63% 相似待验证本地AI推理速度公式为Token/s ≈ 内存带宽 / 每token需读取的数据量62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/913656API
curl https://kongchang.com/api/v1/knowledge/claims/913656MCP
get_claim(id=913656)