594B MoE模型Inkling 2 Small登陆Ollama

Thinking Machines 的 594B MoE 模型 Inkling 2 Small 上线 Ollama Cloud,主打多模态专业任务与零数据留存。
Thinking Machines 将 594B 参数的混合专家模型 Inkling 2 Small 上线 Ollama Cloud,并附带零数据留存承诺。该模型拥有 1M 上下文窗口,能力覆盖 OCR、grounding、信息图解读、视觉推理、MCP 工具调用以及金融表格与财报推理,明显瞄准企业级知识工作场景。开发者可通过一条 `ollama run inkling-2-small:cloud` 命令接入,迁移成本低。零数据留存降低了受监管行业的合规顾虑,但本地部署对 594B 模型而言硬件门槛较高。官方未公布基准数据,实际表现仍需用真实业务样本验证。

Thinking Machines 的 Inkling 2 Small 模型正式上线 Ollama 平台,并且带来一个对企业用户颇具吸引力的承诺:零数据留存。这条消息来自 @thinkymachines 的官方发布,意味着开发者现在可以通过 Ollama 直接调用这个规模可观的多模态模型,无需担心推理数据被保留。
一个 594B 参数的 MoE 巨兽
Inkling 2 Small 的名字里虽然带“Small”,但它的体量并不小。这是一个 594B 参数的混合专家(MoE)模型,配备了 1M 的上下文窗口。MoE 架构的意义在于,它在总参数量巨大的同时,每次推理只激活其中一部分专家网络,从而在能力与推理成本之间取得平衡。1M 上下文窗口则让它能够一次性处理极长的文档、代码库或对话历史,这对于金融文档分析、长报告解读等场景尤为关键。
从定位来看,Inkling 2 Small 并不是一个单纯的文本模型。官方描述强调它在视觉解读与创作、智能体式知识工作、以及金融与量化推理方面表现强劲。这说明它瞄准的是需要多模态理解与复杂推理结合的专业任务,而非通用闲聊。
混合专家(MoE)架构的核心在于将模型的前馈网络拆分为多个并行的“专家”子网络,并配备一个可学习的路由机制。每次前向推理时,路由网络只为每个 token 选择激活少数几个专家(例如 top-2 或 top-8),其余专家不参与计算。这使得模型的总参数量可以远超单次激活的计算量,从而在保持较低推理成本的同时获得大模型的知识容量。正因如此,MoE 模型通常以“总参数量”和“激活参数量”两个指标来衡量,前者反映容量,后者决定实际算力开销。
能力覆盖:从 OCR 到金融表格推理
官方给出的示例用例相当具体,也透露出模型的设计取向:
- OCR:从图像中提取文字,是文档数字化的基础能力。
- grounding:将语言指代与图像中的具体区域对应起来,是视觉问答和界面理解的核心。
- 信息图解读:理解图表、信息图中蕴含的结构化信息,而非仅仅识别文字。
- 视觉推理:在图像信息基础上进行多步推断。
- 通过 MCP 进行工具调用:支持 Model Context Protocol,意味着它可以作为智能体接入外部工具链,完成更复杂的任务编排。
- 金融电子表格推理、财报与文档处理:直接指向金融分析与量化工作流。
这些用例的共同点是:它们都要求模型同时处理视觉信息与结构化推理。传统纯文本模型在这些任务上往往需要借助外部 OCR 或表格解析工具,而 Inkling 2 Small 把这些能力内化到了模型本身。
MCP(Model Context Protocol) 是一套开放协议,用于标准化大模型与外部工具、数据源之间的连接方式。它把工具调用抽象为统一的接口,使模型能够以一致的方式发现、调用和组合外部能力,例如查询数据库、执行代码或访问文件系统。对于智能体式工作流而言,MCP 相当于模型与工具生态之间的“通用插头”,开发者无需为每个模型单独适配工具调用格式,即可让 Inkling 2 Small 接入既有的工具链。
零数据留存意味着什么
Ollama 在发布中特别强调“zero data retention”。对于金融、法律、医疗等受监管行业的团队来说,这往往是能否采用某个云端模型的决定性因素。零数据留存意味着推理请求和输入内容不会被平台保留用于训练或其他用途,降低了敏感数据外泄的合规风险。
提一嘴,这一承诺针对的是 Ollama Cloud 上的调用方式。如果团队有更高的数据主权要求,仍需评估本地部署或私有化方案是否可行——不过对于 594B 参数的模型而言,本地运行的硬件门槛显然不低,云端调用是更现实的选择。
零数据留存(Zero Data Retention, ZDR) 是云服务商与客户之间的一种数据处理承诺:推理请求的输入与输出在请求完成后不被持久化存储,也不会被用于模型训练或人工审查。在实际合规框架中,ZDR 通常需要配合审计日志、服务等级协议和数据处理协议(DPA)才能构成完整的合规证据链。需要注意的是,ZDR 并不等同于数据不出境或完全隔离,它约束的是留存行为本身,因此对于数据主权有更高要求的场景,仍需结合部署地域与私有化选项进行评估。
如何接入
接入方式保持了 Ollama 一贯的简洁风格,一条命令即可拉取并运行:
ollama run inkling-2-small:cloud
cloud 后缀表明这是通过 Ollama Cloud 提供的托管版本。对于已经在使用 Ollama 工作流的开发者来说,迁移成本很低,可以在现有工具链中直接替换或新增这个模型进行对比测试。
值得关注的地方
Inkling 2 Small 的发布折射出当前模型竞争的一个趋势:厂商不再只比拼通用基准分数,而是越来越强调具体的高价值工作流——金融分析、文档处理、智能体工具调用。594B MoE 加 1M 上下文的组合,配合零数据留存的合规卖点,明显是冲着企业级知识工作场景去的。
不过,官方发布中并未给出具体的基准测试数据或与其他模型的对比结果。模型在实际任务中的表现,尤其是视觉推理和金融表格推理这类对精度要求高的场景,还需要开发者用自己的数据去验证。对于考虑采用的团队来说,建议先用真实业务样本做小范围测试,再决定是否纳入生产流程。
另外,“Small”这个命名与实际 594B 的规模之间存在反差,可能暗示 Thinking Machines 还有更大规模的版本规划,或者“Small”指的是相对于其内部其他模型的定位。这一点目前没有更多信息,值得后续关注。
相关推荐

RePlan-VLA:进度感知重规划突破长时程机器人操作
RePlan-VLA框架通过进度感知与自适应重规划,将VLA模型的短时程能力转化为可靠的长时程执行,在RoboCasa365和CALVIN基准上成功率分别提升21.9%和10.4%,并在Franka Research 3机器人上验证了真实部署可行性。

几何桥流匹配:盲刚性运动校正新突破
几何桥流匹配方法实现头部锥束CT盲刚性运动校正,在模拟数据上PSNR达37.1 dB,RPE仅0.27 mm,处理时间约9.1分钟,优于现有方法。

谷歌Gemini 4 Hydrogen发布:提速2.5倍,轻量模型智能不缩水
谷歌发布Gemini 4 Hydrogen轻量模型,任务提速2.5倍,AA智能指数54分反超大哥,Agent Arena单步7.3秒快于Claude和GPT竞品,四档思考级别按需付费,AI Studio等渠道全面开放。