DeepSeek-V4.1-Flash
DeepSeek发布的大型混合专家语言模型,采用552B MoE架构,支持视觉输入与100万token上下文窗口,引入Engram记忆架构与压缩KV共享机制,专为智能体场景优化
核心事实
时间轴 (近 90 天)
v0.32.0rc2 中有一项改动是将 DeepSeek-V4.1-Flash-NVFP4 的评测固定到其 FP8-Engram 版本。
在规格不足的集群上部署DeepSeek-V4.1-Flash或Moonshot Kimi K2.5时,vLLM要么在权重初始化阶段OOM,要么在每个并发多轮Agent请求时驱逐KV缓存块。
使用MLA的模型如DeepSeek-V4.1-Flash将KV状态压缩至每32k流约2.4 GB(FP8 KV),而更宽的架构每32k流消耗3.0 GB–3.8 GB。
vLLM 对 DeepSeek-V4.1-Flash 的三项优化(SWA 有界重放、MegaAttention 与 Mega-Gate 内核、算子融合与 CUDA graphs)在 150 TPS 约束下实现 5.3 倍吞吐,低并发下加速 1.9 倍,100K 吞吐时 TTFT 降低约 70%。
该期节目还提到了Muse、DeepSeek-V4.1-Flash以及Xi等模型动态。
DeepSeek-V4.1-Flash基于45T Token的多模态预训练,上下文推理强度支持1到100连续可调,采用MIT协议
deepseek-v4.1-flash属于轻量、高吞吐定位的flash类模型,通常价格较低、调用频繁
Naive-N0.5-Flash 的 BF16 权重文件约 618GB,FP8 格式版本权重约 315GB
DeepSeek-V4.1-Flash 采用 MIT 协议开源,原生支持多模态视觉,上下文长度达 100 万 Token
DeepSeek-V4.1-Flash 的 KV 缓存压缩至每 Token 890 字节,仅为 V4 Flash 的四分之一
还有 31 条时间轴事件
全部知识事实 (20)
DeepSeek-V4.1-Flash 的 KV 缓存压缩至每 Token 890 字节,仅为 V4 Flash 的四分之一
65%待验证发布方宣称DeepSeek-V4.1-Flash的成本仅为Opus 5和GPT-5.6 Sol的1/40
70%待验证DeepSeek-V4-Flash-Vision-Exp采用MoE架构,总参数约305B,每个Token仅激活约13B,激活率约4.6%
60%待验证v0.32.0rc2 中有一项改动是将 DeepSeek-V4.1-Flash-NVFP4 的评测固定到其 FP8-Engram 版本。
50%待验证在规格不足的集群上部署DeepSeek-V4.1-Flash或Moonshot Kimi K2.5时,vLLM要么在权重初始化阶段OOM,要么在每个并发多轮Agent请求时驱逐KV缓存块。
50%待验证使用MLA的模型如DeepSeek-V4.1-Flash将KV状态压缩至每32k流约2.4 GB(FP8 KV),而更宽的架构每32k流消耗3.0 GB–3.8 GB。
50%待验证vLLM 对 DeepSeek-V4.1-Flash 的三项优化(SWA 有界重放、MegaAttention 与 Mega-Gate 内核、算子融合与 CUDA graphs)在 150 TPS 约束下实现 5.3 倍吞吐,低并发下加速 1.9 倍,100K 吞吐时 TTFT 降低约 70%。
50%待验证DeepSeek-V4.1-Flash基于45T Token的多模态预训练,上下文推理强度支持1到100连续可调,采用MIT协议
50%待验证deepseek-v4.1-flash属于轻量、高吞吐定位的flash类模型,通常价格较低、调用频繁
50%待验证Naive-N0.5-Flash 的 BF16 权重文件约 618GB,FP8 格式版本权重约 315GB
50%待验证DeepSeek-V4.1-Flash 采用 MIT 协议开源,原生支持多模态视觉,上下文长度达 100 万 Token
50%待验证压缩KV共享策略与Multi-Query Attention(MQA)和Grouped-Query Attention(GQA)精神一脉相承,但共享粒度更粗
50%待验证在DeepSeek-V4.1-Flash中,只有四个层负责写入压缩后的KV,模型其余部分共享这份缓存
50%待验证Engram将整个checkpoint中四分之一的容量用作n-gram记忆,规模达到197B参数
50%待验证vLLM从DeepSeek-V4.1-Flash发布首日起就提供了原生支持,并在NVIDIA与AMD两大GPU平台上完成了验证
50%待验证DeepSeek-V4.1-Flash采用552B参数的MoE(混合专家)主干架构
50%待验证DeepSeek-V4.1-Flash在读取prompt阶段仅激活8B参数,在生成输出阶段激活16B参数
50%待验证DeepSeek-V4.1-Flash的读少写多动态激活方式适合需要频繁读取大量上下文、间歇性输出的智能体工作流
50%待验证这则讨论来自Reddit社区的个人分析,属于观点性推断,而非官方技术披露或第三方基准测试验证
50%待验证官方未披露DeepSeek-V4.1-Flash的激活参数量、专家数量等更细颗粒度的架构参数
50%