概念
NVFP4 KV 缓存
使用 NVFP4 低精度格式存储键值缓存（KV Cache）的技术，旨在降低长上下文推理中的显存占用，通常需配合缩放策略以维持精度。
时间轴 (近 90 天)
10月29日
vLLM 为 M3.1 Flash 集成了原生 NVFP4 KV 缓存、NVFP4 MoE 权重和 DSpark 投机解码三项服务栈配置。
待验证50%
使用 NVFP4 低精度格式存储键值缓存（KV Cache）的技术，旨在降低长上下文推理中的显存占用，通常需配合缩放策略以维持精度。
vLLM 为 M3.1 Flash 集成了原生 NVFP4 KV 缓存、NVFP4 MoE 权重和 DSpark 投机解码三项服务栈配置。