开源权重模型
公开模型参数(weights)允许用户本地部署和微调,但不一定开放训练数据或完整代码的AI模型发布策略,介于完全开源与闭源之间
核心事实
时间轴 (近 90 天)
在 OpenRouter 上,所有开源权重实验室的合计流量占比超过 75%。
对于需要最前沿推理能力的任务,闭源大模型仍然有优势;小团队如果没有足够的ML工程能力,维护自部署模型的隐性成本可能超过节省的API费用。
微调、量化、蒸馏是开源权重模型三类常见的定制手段,共同前提是企业拥有权重访问权限,这是闭源API难以提供同等控制粒度的原因。
企业客户在概念验证阶段倾向用闭源API快速验证,但进入规模化部署时,往往会重新评估开源权重模型的经济性。
开源权重模型在编程智能体方向的竞争正在升温,Ripple-65B 的出现为这一赛道增加了一个美国选项。
对于高并发场景,开源模型的推理成本可能超过闭源API的按量计费。
在发现阶段测试了15个模型,表现最强的模型能够发现超过80%的隐藏需求,而开源权重模型只能发现40-50%。
通过Together、Fireworks、DeepInfra等推理服务商调用开源权重模型,价格通常显著低于同级闭源API,同时免去运维负担。
Particle 是一家新公司,专注于让开源权重模型在服务环节实现更高的 Token 效率和成本效率(token-efficient and cost-efficient to serve),而非构建更强的模型。
IBM CEO Arvind Krishna 公开表示,开源权重模型性能达到前沿模型的 90%,token 价格只有后者的 10%。
还有 40 条时间轴事件
全部知识事实 (20)
开源模型通常指模型权重可公开下载、允许自由使用和修改的AI模型,与仅通过API调用的闭源模型相对。
80%已验证开放权重模型指参数权重文件向公众开放下载,可本地部署微调,但训练数据和完整源码不一定公开,区别于完全开源
80%已验证开源模型通常指权重公开、允许自由下载、修改和再分发的预训练大语言模型,如 Llama、Mistral、Qwen 等系列。
80%已验证开放权重模型(Open Weight Models)是指将模型训练完成后的参数(权重)向公众开放下载的模型形式,任何人可在本地运行、修改和二次开发
75%已验证开放权重模型是指公开发布模型参数权重、允许用户自行下载部署的模型,如Meta的Llama系列、Mistral
75%已验证开放权重模型(如Meta的LLaMA系列、Mistral)公开模型参数权重供任何人下载使用,与GPT-4、Claude等闭源API模型形成对比
75%已验证Meta开源了Llama系列模型,阿里开源了Qwen系列,Mistral AI也采用开源策略
75%已验证'开源权重'与'完全开源'并不等同,前者仅公开模型参数文件,训练数据、完整训练代码及某些商业使用权利未必一并开放
70%已验证开源权重意味着他人可以直接加载使用或微调,但不包含训练数据、训练方法和分布式训练框架。
65%已验证开源权重模型之间的许可证在商用限制、署名要求和再分发条件上差异较大
65%已验证当前多数所谓‘开源模型’实际上只开放权重,训练细节仍属商业机密。
65%已验证开源权重模型指训练完成后将神经网络参数权重以开放许可证形式公开发布,可下载在自有硬件运行并用私有数据微调而无需支付调用费
65%已验证开发者选择模型时,许可证条款是必须核查的前置条件,直接决定能否将模型用于商业产品
65%已验证闭源API模型可以通过服务端过滤、使用监控和速率限制来控制滥用,而开源模型无法强制执行管控
65%已验证开源模型公开发布完整权重,允许任何人下载权重并在本地或私有云运行,完全绕开原始发布方的API计费体系
65%已验证开源模型公开发布完整权重,允许任何人下载、修改、本地运行乃至商业开发
65%待验证对于高并发场景,开源模型的推理成本可能超过闭源API的按量计费。
70%待验证在 OpenRouter 上,所有开源权重实验室的合计流量占比超过 75%。
50%待验证微调、量化、蒸馏是开源权重模型三类常见的定制手段,共同前提是企业拥有权重访问权限,这是闭源API难以提供同等控制粒度的原因。
50%待验证企业客户在概念验证阶段倾向用闭源API快速验证,但进入规模化部署时,往往会重新评估开源权重模型的经济性。
50%