[控场AI]
· 5 分钟阅读· 2,798 字

Muse Spark Open发布:美国最强开源权重模型

Muse Spark Open发布:美国最强开源权重模型

Meta发布816B参数的Muse Spark Open开源权重模型,主打编码与Agent任务。

Meta在r/LocalLlama社区发布Muse Spark Open,号称迄今最强的美国开源权重模型。该模型采用MoE架构,总参数816B、激活参数42B,支持100万token上下文及文本、图像、视频、音频多模态输入,重点优化编码、Agent、长周期任务和多步推理。部署层面集成Helion GPU内核到SGLang,在NVIDIA与AMD GPU上实现1.03–3.95倍kernel加速,并覆盖SGLang、vLLM、TensorRT-LLM、MLX、llama.cpp等主流引擎,还可在两台M5 Ultra Mac Studio上本地运行。发布当天即可通过Baseten、Fireworks AI、Groq、OpenRouter等平台调用API,权重可从Hugging Face等渠道下载。许可采用有限商业条款,社区关注其推理成本、长上下文实测表现与商用限制。

Meta在r/LocalLlama社区发布了Muse Spark Open,号称迄今为止最强的美国开源权重模型。这款模型主打编码和Agent任务,816B总参数、42B激活参数,支持100万token上下文窗口,在长周期任务、复杂软件工程和多步推理上有突出表现。

Muse Spark Open发布公告

模型架构与核心能力

Muse Spark Open采用MoE架构,总参数816B、激活参数42B。100万token的上下文窗口意味着可以处理极长的代码库和文档。多模态方面支持文本、图像、视频和音频输入。

模型专门针对编码和Agent场景优化,官方描述其擅长"长周期任务、复杂软件工程和多步推理"。安全后训练在Meta的Superintelligence Scaling Framework框架下完成评估。

从参数规模看,816B总参数在开源权重模型中属于第一梯队。42B激活参数的设计平衡了推理成本和能力上限,实际运行时只需激活部分参数,部署门槛比稠密模型低不少。

MoE(混合专家)架构是大模型领域近年来最重要的架构创新之一。其核心思想是将传统的单一稠密前馈网络拆分为多个并行的"专家"子网络,再通过一个可学习的门控路由机制,让每个token只激活其中少数几个专家。这样一来,模型的总参数量可以做得极大以提升能力上限,但单次前向推理实际参与计算的参数(即激活参数)却保持较小,从而大幅降低算力开销。Muse Spark Open的816B总参数对应42B激活参数,意味着每个token大约只调用约5%的参数,既保留了大模型的知识容量,又把推理成本压到接近中型稠密模型的水平。MoE的代价是显存占用仍按总参数计算,且路由负载均衡、专家并行通信会带来额外的工程复杂度。

推理与部署:多硬件适配

这次发布在部署方面做了不少工作。模型自带Helion GPU内核,集成到SGLang中,在NVIDIA和AMD GPU上实现1.03–3.95倍的kernel加速,AMD MI350上端到端提升约3%。

支持的推理引擎覆盖主流选择:SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp和Unsloth,针对AMD、Apple、Intel和NVIDIA芯片均有优化。

对Apple Silicon的优化值得单独说说——Muse Spark Open可以在两台搭载M5 Ultra芯片的Mac Studio上运行,配合最新MLX框架。这让高端开源模型的本地运行不再局限于服务器级硬件。

上下文窗口指模型单次推理能够同时"看到"的token总数,包括输入和输出。传统模型通常为8K至128K,而100万token(约相当于数百页文档或一个中等规模代码仓库)的窗口使模型可以在不切分、不依赖检索增强的情况下,一次性处理整个项目。长上下文的难点不仅是显存开销随长度近似平方增长,还在于模型能否在数十万token跨度上维持注意力与推理的一致性。业界常用"大海捞针"(needle-in-a-haystack)等基准测试来验证长窗口中关键信息的召回能力,这对Muse Spark Open所强调的长周期任务与多步推理尤为关键。

文中提到的Helion、SGLang、MLX、llama.cpp代表了当前开源部署生态的几个关键层次。Helion是PyTorch生态下用于编写高性能GPU内核的领域特定语言,开发者可借此生成针对不同硬件优化过的算子;SGLang是一个面向大模型服务的高吞吐推理框架,擅长处理长上下文和结构化输出;MLX是Apple为自家统一内存架构芯片打造的机器学习框架,能充分利用M系列芯片的显存带宽;llama.cpp则主打CPU/低比特量化下的本地推理。将这些引擎与内核集成,意味着同一份权重可以跨越NVIDIA、AMD、Apple Silicon乃至CPU环境运行,这也是开源权重模型相比闭源API的核心优势之一。

微调与API生态

开发者可以用PyTorch进行微调,也可以使用TorchTitan。API方面,发布当天即可通过Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI等平台调用。

权重下载渠道包括Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face和Microsoft Foundry Models。

许可方面,Muse Model License包含了有限的商业条款,允许许多开发者免费使用。具体条款细节需要查阅官方许可文本,但从社区反馈看,这一许可比完全限制商业使用的方案要开放不少。

开源权重与开放许可是两个不同的概念。开源权重指模型参数可被下载和本地运行,但使用范围往往受许可证约束。许多所谓"开源"模型的许可会附加月活用户门槛、禁止竞品训练、限制商用规模等条款,Meta此前Llama系列许可即属此类。文中Muse Model License包含"有限的商业条款",通常意味着中小开发者或一定营收规模以下的实体可免费商用,而超出阈值的公司需另行申请授权。因此,评估一个开源权重模型时,除了看参数和基准分数,还必须核对许可文本中的商用条件、再分发限制和对衍生模型的要求。

社区反响与竞争格局

在r/LocalLlama社区发布后,讨论集中在几个方面:816B参数规模下的实际推理成本、100万上下文窗口在真实编码任务中的表现,以及Muse Model License的具体商业限制。

从定位看,Muse Spark Open直接对标当前最强的开源权重模型。42B激活参数的设计意味着推理效率是核心竞争力之一——在MoE架构下,用户不需要为全部816B参数买单。

Agent能力是这次发布强调的重点。长周期任务和多步推理通常需要模型在较长时间跨度内保持上下文一致性,100万token窗口加上Agent优化,是朝着这个方向做的准备。

Muse Spark Open能否成为美国开源权重模型的标杆,还要看实际基准测试和社区验证的结果。但至少在部署覆盖面和硬件适配上,Meta这次给开发者提供了比较完整的选择。

更多信息可查阅Meta研究博客(https://go.meta.me/museopen)和Hugging Face权重页面(https://huggingface.co/collections/meta-models/muse-spark-open)。

#Muse Spark Open#Meta开源模型#开源权重模型#MoE架构#AI编程模型#Agent模型#100万token上下文#Apple Silicon推理
分享:

相关推荐