概念分块扫描 / chunk scan kernel
chunk scan
Mamba2 中用于将串行前缀扫描并行化的 GPU kernel 机制,采用'块内并行 + 块间串行'两阶段策略,实现长序列的高效并行计算,对累加器初始化和边界同步高度敏感。
时间轴 (近 90 天)
10月17日
Mamba2 的 chunk scan 机制采用块内并行与块间串行的两阶段策略,使并行度从序列长度级降低到块数量级。
待验证50%
10月17日
NaN 具有传染性,任何与 NaN 的算术运算结果都是 NaN;在 chunk scan 的跨块归约中一个块产生的 NaN 会传播到后续所有块。
待验证50%