待验证50% 置信基准精确时间
TIDE的峰值内存比FSDP2+SymmMem低最多4.7 GiB,在Wan2.2上开启Slot-Reuse时甚至低于Stock FSDP2。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/30
首次发现
有效期至:2026/11/13
来源
涉及实体
相关事实
待验证FP8相比FP16减少一半内存占用和带宽消耗,且AIC对FP8的计算吞吐可达FP16的两倍69% 相似待验证FP4-Local 并不比 4-bit GGUF 小:UD-IQ4_XS GGUF 为 157 GB,而 FP4-Local 约 166 GiB。68% 相似待验证在64 GPU规模上,TIDE在Llama-3.1 70B、Wan2.2和Qwen3-30B-A3B上最多降低27.1%的step时间(对比Stock FSDP2)。67% 相似待验证FP4-Local 约占用 166 GiB 显存,在两张 RTX PRO 6000(合计 192GB)上可放下 1.8M token 的 FP8 KV cache;双 DGX Spark 方案可到 2M token。66% 相似待验证DeepSeek-V4.1-Flash 有 763B 参数,BF16 权重约 1.5 TB,官方 FP4/FP8 checkpoint 是 475.2 GiB,coolbho3k 的 3-bit EXL3 包压到 309.3 GiB。63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114851API
curl https://kongchang.com/api/v1/knowledge/claims/1114851MCP
get_claim(id=1114851)