DeepSeek V4.1
时间轴 (近 90 天)
V4.1 部署规模是预填充 EP2 到 EP8、解码 EP64 到 EP128;DeepInfer 在调度器里加了组内投票和第二轮确认来协调宽专家并行下的卡步调。
V4.1 采用 SWA 有界重放:只重新计算最后 128 个 token,注意力也只在这 128 个 token 之内,得到近似的窗口缓存;重算成本变成常数,Decoder 的 20 层原本要处理最后 2560 个 token,现在只需处理 128 个,预填充总计算量少了接近一半。
UP主使用的Agent包括DeepSeek V4.1、WorkBuild以及本地小模型(如1825B Flashnex)。
DeepSeek V4.1对部分层采用局部注意力,只看最近的128个Token,短期笔记不存档而仅存本机内存,约三分钟后清除,命中率仍在98%以上。
DeepSeek V4.1的SWA Bound replay技术将读题时需要重算的Token数从2560减少到128,读题总计算量约减半。
此前测试长城编码能力的 DeepSeek V4.1 版本已可升级,但数据集似乎受到一定污染。
V4.1架构对量化鲁棒性较强,从FP16切换到FP8时,MMLU基准上的精度损失不到0.2%。
团队借助Campbot DSL为DeepSeek V4.1网络开发了包括index、prolog、kingram、git等在内的8个融合算子
DeepSeek V4.1的Attention层可划分为前处理、Attention计算、后处理三个阶段
这8个融合算子相较于小算子的串行计算均获得了明显性能收益
还有 17 条时间轴事件
全部知识事实 (20)
刘胜宇是DeepSeek研究员,曾参与编写DeepSeek V4.1的主Attention算子
60%待验证V4.1 部署规模是预填充 EP2 到 EP8、解码 EP64 到 EP128;DeepInfer 在调度器里加了组内投票和第二轮确认来协调宽专家并行下的卡步调。
50%待验证V4.1 采用 SWA 有界重放:只重新计算最后 128 个 token,注意力也只在这 128 个 token 之内,得到近似的窗口缓存;重算成本变成常数,Decoder 的 20 层原本要处理最后 2560 个 token,现在只需处理 128 个,预填充总计算量少了接近一半。
50%待验证UP主使用的Agent包括DeepSeek V4.1、WorkBuild以及本地小模型(如1825B Flashnex)。
50%待验证DeepSeek V4.1对部分层采用局部注意力,只看最近的128个Token,短期笔记不存档而仅存本机内存,约三分钟后清除,命中率仍在98%以上。
50%待验证DeepSeek V4.1的SWA Bound replay技术将读题时需要重算的Token数从2560减少到128,读题总计算量约减半。
50%待验证此前测试长城编码能力的 DeepSeek V4.1 版本已可升级,但数据集似乎受到一定污染。
50%待验证V4.1架构对量化鲁棒性较强,从FP16切换到FP8时,MMLU基准上的精度损失不到0.2%。
50%待验证团队借助Campbot DSL为DeepSeek V4.1网络开发了包括index、prolog、kingram、git等在内的8个融合算子
50%待验证这8个融合算子相较于小算子的串行计算均获得了明显性能收益
50%待验证DeepSeek V4.1的Attention层可划分为前处理、Attention计算、后处理三个阶段
50%待验证DeepSeek V4.1号称SWE拿到74,但博主发现那是多次测试中挑出的最好成绩,open code实测65、PI实测66
50%待验证在排版复刻测试中,GPT-6 Sol 速度最快,体感四五分钟完成任务;Luna 耗时约为 Sol 的三倍(接近二十分钟);DeepSeek 最慢,约半小时
50%待验证该测试结论来自单一测试者围绕公众号排版复刻这一特定场景,评分带有主观性,不能代表模型在编程、推理、长文本等能力维度的全部表现
50%待验证测试的思考强度档位设置为:Sol 与 DeepSeek 选 Max,Luna 选 High
50%待验证在复制粘贴到公众号平台后的样式保留环节,Sol 和 DeepSeek 样式基本完整保留,Luna 结尾部分样式乱掉
50%待验证在要求返工修复后,Sol 补齐了多图排版及图片旁装饰性文字,而 Luna 和 DeepSeek 做出了多图排版但未加上装饰性文字
50%待验证三个模型(Sol、Luna、DeepSeek)在多图排版上均未能还原好,是共同短板
50%待验证在 token 消耗上,Sol 最低,Luna 的消耗略超 Sol 的两倍,DeepSeek 比 Luna 更高
50%待验证DeepSeek V4.1在Terminal 2.1(终端)、软件工程、网络安全、自动化办公、智能体终端考试等测试中排名第一
50%