待验证50% 置信事实精确时间
两款模型都采用混合专家(MoE)与混合 Mamba-Transformer 架构,面向推理、长上下文理解与智能体工作负载。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至:2027/1/28
来源
涉及实体
相关事实
待验证近年涌现出混合专家模型(MoE,如 Mixtral)、状态空间模型(SSM,如 Mamba)、线性注意力变体等新兴架构78% 相似待验证混合架构通常指将Transformer的注意力机制与状态空间模型(SSM,如Mamba)相结合的设计思路77% 相似待验证混合专家模型(MoE)架构如 Google 的 Switch Transformer 和 Mistral AI 的 Mixtral,总参数量巨大但每次推理只激活其中一小部分72% 相似待验证2023年Gu和Dao提出Mamba,引入输入依赖的选择性机制(selective scan),在保持线性时间复杂度的同时获得与Transformer相当甚至更优的语言建模性能71% 相似已验证前沿模型常采用混合专家架构(MoE)在推理时只激活部分参数,以平衡速度与质量70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114688API
curl https://kongchang.com/api/v1/knowledge/claims/1114688MCP
get_claim(id=1114688)