[控场AI]
· 5 分钟阅读· 2,928 字

Reflection AI 的 Beam 推理模型上线 AI Gateway 免费开放

Reflection AI 的 Beam 推理模型上线 AI Gateway 免费开放

Reflection AI 开放权重推理模型 Beam 登陆 AI Gateway,发布期免费。

Reflection AI 的推理模型 Beam 正式登陆 Vercel 旗下的 AI Gateway,并在发布期免费开放,权重以 Apache 2.0 协议开源。Beam 定位为低延迟的美国开放权重推理模型,面向编码与 Agent 任务,支持工具调用、结构化输出和可调推理强度,上下文窗口达 100 万 token。其架构采用 MoE 思路,总参数 501B 但每 token 仅激活 23B,并会动态跳过任务不需要的 token。免费接入提供 reflection/beam 与 reflection/beam-free 两条路径,前者到期自动转付费零停机,后者到期停服。借助 AI Gateway 的统一 API、原价透传不加价以及零数据保留等能力,开发者迁移成本极低,可快速接入 Claude Code、Cursor 等主流编码 Agent 进行验证。

Reflection AI Beam 上线 AI Gateway

一个曾以 stealth/cat-jam 代号潜伏测试的模型正式露面了。Reflection AI 的推理模型 Beam 现已登陆 Vercel 旗下的 AI Gateway,并在发布期内向所有开发者免费开放。这不是常见的「限时试用」噱头——权重本身以 Apache 2.0 协议开源,任何人都能自由调用甚至自部署。

Beam 是什么:一个面向速度的开放权重推理模型

Beam 的定位很明确:低延迟的美国开放权重推理模型,主要服务于编码与 Agent 类任务。它支持工具调用(tool calling)和结构化输出(structured outputs),上下文窗口达到 100 万 token,足以吞下整个代码仓库、长文档或完整的对话历史。

真正让它区别于同级别开源模型的,是它的架构取舍。Beam 总参数量 501B,但每个 token 只激活其中 23B——典型的 MoE(混合专家)思路。更关键的是它「会主动跳过任务不需要的 token」,也就是在推理链路上做动态裁剪,从而比更大的开放模型更快给出答案。推理强度(reasoning effort)可调,意味着开发者可以在「快而浅」和「慢而深」之间自行权衡,适配从补全代码到多步 Agent 规划的不同场景。

MoE(Mixture of Experts,混合专家) 是一种稀疏激活的模型架构:模型内部由多个「专家」子网络组成,每次前向计算时,路由机制只挑选少数几个与当前 token 最匹配的专家参与运算,其余专家保持休眠。这正是 Beam 能够「总参数 501B、每 token 只激活 23B」的原因。与稠密(Dense)模型每次都要动用全部参数不同,MoE 把参数量与每次推理的计算成本解耦:参数量决定了模型的知识容量和表达能力,而激活量决定了实际的算力与延迟开销。代价是显存占用依然按总参数量计算,因为所有专家都要常驻内存;同时路由本身也会引入少量额外开销,且负载不均时可能导致部分专家训练不充分。对开发者而言,理解这一点有助于判断部署门槛——Beam 对显存的需求接近一个 501B 量级的模型,而对算力的需求则接近 23B 量级。

两种免费接入方式,到期逻辑不同

Reflection AI 给出了两条免费路径,区别在于免费期结束后的行为:

模型名免费期结束后
reflection/beam自动转为正常计费,零停机
reflection/beam-free停止服务

如果你在生产环境评估这个模型,选标准名 reflection/beam 更稳妥——免费期一过它会平滑切换到付费,不会突然断掉。而想纯粹做短期实验、不在乎长期可用性的开发者,reflection/beam-free 更省心,用完即止。

调用方式也很直接,以 AI SDK 为例:

import { streamText } from 'ai';

const result = streamText({
  model: 'reflection/beam',
  prompt: 'Outline three steps for debugging an API timeout.',
});

for await (const text of result.textStream) {
  process.stdout.write(text);
}

Claude Code、Codex、Cursor 等主流编码 Agent 也能直接接入,只需安装最新 Vercel CLI 并运行 npx vercel ai-gateway setup,然后在 Agent 中选择对应的模型名即可。

AI Gateway 是介于应用与模型提供方之间的一层代理服务。应用只面向 Gateway 的统一接口发请求,由 Gateway 负责把请求路由到具体模型提供方,并在中间完成鉴权、重试、故障转移、限流与用量计量。这种设计带来几个实际好处:一是接口归一,切换或新增模型时只需改模型名,不必重写 SDK 与鉴权逻辑;二是可靠性增强,当某个提供方出现超时或错误时,Gateway 可以自动重试或转投备用通道,其可用性 SLA 往往高于单一提供方;三是可观测性,调用量、token 消耗与成本可以集中统计和出报表。Zero Data Retention(零数据保留) 则指请求与响应内容不被持久化存储,仅用于当次推理,这对涉及敏感代码或合规要求的企业尤为关键。

AI Gateway 的价值:统一 API 与零加价

Beam 选择落地 AI Gateway 而非独立托管,本身就是一步好棋。AI Gateway 提供统一 API 来调用模型、追踪用量与成本,并内置重试、故障转移和性能优化,目标是把可用性做到比模型提供方本身更高。它还支持自定义报表、零数据保留(Zero Data Retention)、API Key 预算控制和路由规则。

对成本敏感的团队来说,AI Gateway 的定价策略值得关注:按提供方原价透传,不收取平台费,推理费用不加价,连 BYOK(自带密钥)请求也不额外收费。这意味着通过它调用 Beam,不会比直连更贵——多出来的是一层可靠性保障和可观测性。

开放权重 + 免费接入,释放了什么信号

把 Apache 2.0 权重和一个 1M 上下文的推理模型直接放出来,Reflection AI 的意图不止于「让更多人用」。开放权重意味着企业可以私有化部署、微调、审计——这对数据敏感的团队是硬门槛。而 Beam 主打「激活 23B 参数就走得很快」的效率路线,实际上是在和那些动辄需要大显存、推理昂贵的巨模型划清界限:不是参数越大越好,而是在给定延迟预算内把答案做对。

对开发者而言,当下最低成本的验证方式就是趁免费期把它接进现有 Agent 流程跑一遍。用标准名 reflection/beam 接入,评估完再决定是否转付费,几乎没有迁移成本。

Apache 2.0 是业界最宽松的开源许可证之一。它允许使用者自由地使用、修改、分发软件,包括用于商业闭源产品,且不要求衍生作品以同样许可证回馈社区(不同于 GPL 的传染性条款)。它还包含明确的专利授权条款,降低了使用者遭遇专利诉讼的风险。对「开放权重」模型而言,采用 Apache 2.0 意味着企业可以将其私有化部署在内网、基于自有数据做微调和蒸馏、并对模型行为进行安全审计,而无需担心许可证传染或商用限制。这也是为什么许可证选择常被视为开放权重模型能否被企业真正采纳的关键门槛之一——相比之下,一些带有使用量或商用限制的自定义许可证,即便权重可下载,落地时仍会面临法务审查。

#Reflection AI#Beam 模型#AI Gateway#开放权重推理模型#Apache 2.0 开源模型#工具调用#1M 上下文窗口#低延迟推理
分享:

相关推荐