待验证50% 置信基准精确时间
在64 GPU规模上,TIDE在Llama-3.1 70B、Wan2.2和Qwen3-30B-A3B上最多降低27.1%的step时间(对比Stock FSDP2)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/30
首次发现
有效期至:2026/11/13
来源
涉及实体
相关事实
待验证GPT-OSS-20B的BF16加载从545秒降至70秒(7.8倍加速),Qwen3.5-397B获得1.93到2.3倍提升72% 相似待验证在固定每GPU输出大小时,TIDE的reduce-scatter缓冲区从16到64 GPU几乎保持恒定。72% 相似待验证13B-14B级别模型(4-bit量化)在该配置下速度下降到每秒2-5个token71% 相似待验证最先进的HBM3e内存带宽约4.8TB/s,推理过程中GPU算力利用率往往只有30%-60%69% 相似待验证在单张 NVIDIA A40、fp32 且关闭 TF32、batch size 1、贪心解码的设置下,GPT-2 small 使用 KV 缓存后,上下文长度 1000 时单 token 延迟从 29.69 ms 降至 4.95 ms,约 6 倍。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114845API
curl https://kongchang.com/api/v1/knowledge/claims/1114845MCP
get_claim(id=1114845)