Thinking Machines发布Inkling 2 Small:594B参数MoE模型

Thinking Machines 发布 MoE 模型 Inkling 2 Small,594B 总参数激活 17B,计划以 Apache 2.0 开放权重。
Thinking Machines Lab 发布 Inkling 2 Small,采用混合专家架构,总参数 594B、单次推理仅激活 17B,激活比例约为总参数的三十分之一,体现激进的稀疏化取舍:推理成本接近中等稠密模型,同时保留更大的知识容量。该模型在 Artificial Analysis Intelligence Index 上得分 31,处于有竞争力的区间,但细分任务表现尚未披露。模型首发接入自家 Tinker 平台运行,并计划以 Apache 2.0 协议开放权重,若落地将显著降低中大型模型的私有化部署与二次开发门槛。不过 594B 规模的存储与部署成本依旧不低,架构参数、上下文长度等关键规格也仍有待公布。
Thinking Machines Lab 发布了 Inkling 2 Small,一款采用混合专家(MoE)架构的大模型。它的总参数量达到 594B,但每次推理只激活 17B 参数,在 Artificial Analysis Intelligence Index 上得分 31。更关键的是,模型通过 Tinker 平台提供运行支持,并计划以 Apache 2.0 协议开放权重。

594B 总参数、17B 激活:MoE 的效率取舍
Inkling 2 Small 最引人注目的数字是 594B 总参数与 17B 激活参数的组合。MoE 架构的核心逻辑是把模型拆成多个专家网络,每次前向计算只调用其中一部分,从而在保持大容量知识存储的同时控制推理成本。17B 的激活量意味着单次推理的计算开销接近一个中等规模稠密模型,而 594B 的总参数则为模型提供了更大的知识容量和表达能力。
这种设计在近两年的大模型竞赛中越来越常见,但 594B/17B 的比例仍然值得注意。激活比例大约为总参数的三十分之一,说明 Thinking Machines 在专家路由上做了相当激进的稀疏化。稀疏化的好处是推理更便宜,代价是路由机制的设计难度上升,训练稳定性也更难保证。Inkling 2 Small 能否在两者之间取得平衡,要等实际使用反馈才能判断。
MoE(混合专家)架构的工作原理
混合专家模型由多个并行的前馈网络子模块(即“专家”)组成,每个 token 在每一层只被路由到少数几个专家上计算,其余专家不参与前向传播。因此模型可以拥有远超稠密模型的参数总量,而单次推理的浮点运算量只与激活的专家规模相关。路由通常由一个轻量门控网络实现,它输出每个 token 对各专家的权重分布。
MoE 的代价包括:训练时需要负载均衡损失来避免专家“塌缩”、显存必须容纳全部专家权重(即使不激活)、以及路由的离散选择带来梯度估计噪声。业界常见做法是配合专家并行(expert parallelism)与容量因子控制,这也解释了为什么总参数很大、激活参数很小的比例在工程上并非免费获得。
31 分意味着什么
据 MarkTechPost 报道,Inkling 2 Small 在 Artificial Analysis Intelligence Index 上得分为 31。这个指数综合了多项基准测试,用来横向比较不同模型的综合智能水平。31 分放在当前模型光谱中属于有竞争力的区间,但单凭一个综合分数很难判断模型在具体任务上的表现。
对开发者来说,更有参考价值的是模型在编程、推理、长上下文等细分场景中的实际表现。素材中没有提供这些维度的数据,因此现阶段不宜对 Inkling 2 Small 的能力边界下过于具体的结论。综合指数可以作为一个入场参考,但不能替代针对性的评测。
Artificial Analysis Intelligence Index 是什么
该指数由独立评测机构 Artificial Analysis 维护,对多个主流基准(覆盖通用推理、知识与编程等维度)的得分做标准化后加权汇总为一个 0—100 量级的分数,用于在同一口径下横向比较不同厂商、不同规模的模型。
它属于“聚合型”指标,优点是跨模型可比、更新及时,缺点是会掩盖任务级差异,对特定领域(如代码生成或长文档理解)的判别力有限。此外,分数会随后续基准版本调整和评测配置变化而小幅波动,因此通常把它作为模型能力档位的粗略坐标,而非选型的决定性依据。
Tinker 平台与 Apache 2.0:降低使用门槛
Inkling 2 Small 通过 Tinker 运行,这是 Thinking Machines 提供的模型服务平台。模型首发即接入自家平台,说明团队希望把训练、部署和调优串成一条链路,减少开发者在基础设施上的摩擦。
计划以 Apache 2.0 协议开放权重,是这次发布中影响面最大的信息。Apache 2.0 允许商业使用、修改和再分发,对想要基于模型做二次开发或私有化部署的团队来说,这是相当宽松的许可条件。594B 级别的模型如果真能开源,会显著改变中大型模型的可及性——过去这个量级的模型大多只能通过 API 调用。权重开放的具体时间表和完整条款,目前素材中只提到“计划”,还需等待官方进一步说明。
Apache 2.0 协议的实际含义
Apache 2.0 是 OSI 认可的开源许可证,允许使用者自由使用、修改、分发软件,包括用于商业目的和闭源再分发。它要求保留版权与许可声明、标明修改,并提供显式的专利授权条款——贡献者授予使用者与其贡献相关的专利许可,这在大模型权重场景下对下游商用方尤为重要。
需要注意的是,许可证覆盖的是“权重文件”的再分发与使用条款,并不自动解决训练数据的合规问题,也不意味着商标或模型名称可被随意使用。对希望私有化部署的团队而言,Apache 2.0 基本排除了“商用需另行授权”的法律不确定性,但仍需自行评估模型输出在具体业务场景中的责任归属。
对开源模型格局的潜在影响
Inkling 2 Small 的出现,把 MoE 稀疏化路线和开放权重两个趋势叠在了一起。一方面,594B 总参数配 17B 激活,代表了一种“大容量、低推理成本”的工程思路;另一方面,Apache 2.0 许可让这种容量有机会流向社区。
如果权重如期开放,受益最明显的会是需要领域微调和数据私密性的团队。他们可以在本地或私有云上运行模型,而不必把数据送到第三方 API。当然,594B 参数的存储和部署成本依然不低,17B 激活只是降低了单次推理的算力需求,并没有让模型变成轻量级选手。实际落地时,硬件预算仍是绕不开的门槛。
Thinking Machines 这次发布的信息密度不低,但公开细节有限。模型的具体架构参数、训练数据构成、上下文窗口长度等关键规格尚未披露。对于关注开源大模型走向的读者,Inkling 2 Small 值得持续跟踪,尤其是权重正式开放后的社区评测。
相关推荐
科技前沿GitHub日报·11月07日:Agent就绪与上下文压缩
2026年09月02日(周三)午间版 AI新闻速递+热点深度讨论

T3 Code:免费开源,统一管理所有AI编程代理
T3 Code是一款免费开源应用,将Cloud Code、Codex等AI编程工具聚合到单一界面,支持对话接力、分支隔离审查、自动提交PR及远程访问,帮助开发者告别多窗口切换。

Cursor上线Live Apps:一键生成可分享链接
Cursor 为云端智能体推出 Live Apps 功能,可自动搭建 Web 应用、配置 Postgres 与 Cursor 登录、执行安全检查并部署到指定域名,生成可分享链接。本文解析其适用范围、安全管控与上手建议。