待验证50% 置信事实精确时间
DeepSeek V4.1的Attention层可划分为前处理、Attention计算、后处理三个阶段
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/3
首次发现
有效期至：2027/1/1
来源
涉及实体
相关事实
已验证DeepSeek V4采用自研的分层压缩注意力策略，设计了CSA（压缩吸收注意力）和HCA（重度压缩注意力）两种注意力模式交替使用78% 相似待验证DeepSeek-V2引入Multi-Head Latent Attention（MLA）机制和DeepSeekMoE架构，其每百万token推理成本约为同期GPT-4级别模型的百分之一76% 相似待验证DeepSeek-V3.2-Exp首次引入自研的DeepSeek Sparse Attention（DSA）稀疏注意力技术74% 相似待验证DeepSeek-V4 的稀疏 MLA（Multi-head Latent Attention）在 vLLM v0.28.0 中实现了端到端可用，支持普通解码、MTP和DSpark三种场景72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/970630API
curl https://kongchang.com/api/v1/knowledge/claims/970630MCP
get_claim(id=970630)