待验证50% 置信事实精确时间
NVIDIA验证的FP4版Qwen3.8配置将n-gram嵌入表offload到CPU(VLLM_PLE_CPU_OFFLOAD=1),可腾出850K tokens的FP8 KV cache。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
涉及实体
相关事实
待验证Qwen3.8-Flash-Next的N-Gram Embedding参数约占51B,可卸载(offload)到CPU内存以降低GPU显存需求71% 相似待验证实验机器配置为联想IdeaPad游戏本,Intel i7-10750H、16GB内存、搭载4GB显存的GTX 1650,在WSL2下运行PyTorch和CUDA67% 相似待验证原生 FP8 硬件加速最早在 NVIDIA Hopper 架构(H100,2022年)的第四代 Tensor Core 中实现,峰值算力达 3958 TFLOPS66% 相似已验证NVIDIA 在 Blackwell 架构(SM 100/103,如 B100、B200 系列)中为 NVFP4 设计了专用 Tensor Core 指令 mma.kind::mxf4,并采用每 16 个元素为一组的 FP8 缩放因子机制65% 相似已验证NVIDIA的MIG技术可在A100/H100等高端GPU上实现硬件级别的资源隔离65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049819API
curl https://kongchang.com/api/v1/knowledge/claims/1049819MCP
get_claim(id=1049819)