待验证50% 置信基准精确时间

在8B形状下带SwiGLU的gate/up投影上，FuTransformer的BF16路径比CODA快1.13倍，FP8路径比所评估的BF16 CODA路径快2.02至2.18倍。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/19

首次发现

有效期至：2026/11/2

来源

FP8预填充+INT4解码：Hopper上Llama推理新优化

涉及实体

FuTransformerproduct CODAproduct SwiGLUconcept

相关事实

待验证BF16 配置（两张 48GB GPU）下，解码速度从 1K 的 25.1 tok/s 到 128K 的 23.9 tok/s，几乎无衰减64% 相似待验证在32K上下文长度下，相比FlashAttention-2，WavePrune实现了1.15倍预填充加速和1.24倍解码加速61% 相似待验证主流推理引擎在同样硬件上运行该模型时，速度普遍卡在 6-8 FPS 区间61% 相似待验证路径C中RTX 3080配合DGX Spark，Prefill速度从1111.3提升到1600（约44%），但Decode速度从33.36 token/s下滑到17.6261% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1065907

API

curl https://kongchang.com/api/v1/knowledge/claims/1065907

MCP

get_claim(id=1065907)