待验证50% 置信事实精确时间
在未融合的小算子模式下,Cube计算和Vector计算往往串行排列,导致任意时刻总有一类计算单元空闲
1
来源数
50%
置信度
长期有效
时效性
2026/10/3
首次发现
来源
涉及实体
相关事实
待验证将矩阵展平喂给MLP会因行数可变导致输入维度不固定,并破坏排列不变性74% 相似待验证矩阵乘法在批量大的推理场景下通常是算力受限,而批量为1的自回归解码时几乎必然是带宽受限72% 相似待验证处理非方阵成本矩阵的标准做法是通过填充(padding)用较大的哑成本值将矩阵补齐为方阵67% 相似待验证自回归推理时batch size通常为1,每个token生成只做一次矩阵-向量乘法,算术强度极低,导致memory-bound问题,单用户场景下GPU利用率往往不到10%67% 相似待验证无分支编程技术(如cmov、位运算掩码)在分支难以预测的场景下(如二分查找、哈希表探测)可将整体吞吐量提升数倍66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/970638API
curl https://kongchang.com/api/v1/knowledge/claims/970638MCP
get_claim(id=970638)