Ampersand上线AI Gateway：会"选择沉默"的群聊语言模型

群聊里的 AI 助手通常有个通病：话太多。无论是否被需要，它都要插一句。Humans& 推出的 Ampersand 试图解决这个问题——它被训练成在每一轮对话中主动判断"该说话还是该闭嘴"。目前该模型已通过 Vercel AI Gateway 提供，并免费开放至 2026 年 11 月 13 日。

一个为"群聊"而生的模型

Ampersand 的定位不是通用对话助手，而是多人群聊场景的参与者。它需要理解个体目标与团队共享目标之间的差异，在人们出现分歧时协助推进讨论，并判断自己的介入是否有价值。

这种介入可能是提出一个澄清性问题，可能是补充相关背景，也可能只是等其他人先回应。换句话说，"不发言"被设计为一种正式的输出选项，而不是模型的失败状态。

据官方描述，Ampersand 的核心能力在于识别"此刻的贡献是否有用"。这个判断比单纯的回复质量更难评估，也更贴近真实协作场景中的人类行为。

两个函数工具：send_message 与 pass

Ampersand 的行为通过应用侧定义的两个 function tools 暴露出来。send_message 负责投递一条群聊消息，pass 则表示保持安静，直到下一条人类消息到来。两个工具的执行和结果记录都由调用方应用完成。

工具选择需要保持默认的 auto 设置。这一点值得注意：Ampersand 接受 auto 和 none，但明确拒绝 required 和命名工具选择。这个设计限制了开发者强制模型必须调用某个工具的可能，与"让模型自行判断是否发言"的产品理念一致。

调用方式上，可以通过 AI SDK、OpenAI 兼容的 Chat Completions API，或编码代理接入。模型名称统一为 humansand/ampersand-v0.1。

Function tools（函数工具） 是 OpenAI 引入的一种工具调用机制：开发者用 JSON Schema 声明若干可调用函数，模型在推理时自行决定是否调用、调用哪一个，以及传入什么参数，再由应用侧真正执行并把结果回传给模型。与传统的结构化输出不同，工具调用把「模型决策」和「实际副作用」分离，因此特别适合需要外部动作的场景。Ampersand 正是利用这一机制，把「发言」和「保持沉默」都建模为工具，从而让「不调用工具」不再是一个隐式的默认行为，而是一个可被显式记录和校验的动作。

toolChoice 是控制模型工具调用策略的参数，常见取值包括 auto（模型自行决定是否调用工具）、none（禁止调用工具）、required（必须调用至少一个工具）以及指定具体工具名（强制调用该工具）。Ampersand 只接受前两者并拒绝后两者，相当于在协议层面禁止调用方「命令」模型发言，这与它把发言权交给模型自行判断的设计一致。

接入代码的关键约束

官方示例展示了一个完整的 AI SDK 集成流程：维护消息历史数组，定义两个工具，在每条人类消息到达时触发 streamText 调用。示例中设置 maxRetries: 0、toolChoice: 'auto'、stopWhen: stepCountIs(1)，并关闭了并行工具调用。

代码里的校验逻辑相当严格：结束原因必须是 tool-calls，工具调用数量必须恰好为 1，且不能是动态工具。任何不符合预期的情况都会抛出错误。这反映出 Ampersand 的设计假设是"每轮只做一个决定"——要么发言，要么沉默，不存在同时执行多个动作的语义。

示例中的两轮对话很能说明问题。第一轮人类消息邀请模型参与（"Ask one clarifying question"），第二轮则明确要求它等待 Leo 回复。pass 的处理方式是记录等待动作，既不发布消息，也不触发下一轮模型调用。

工程实现上，官方建议将响应、历史和投递回执持久化到可靠存储中；对不确定的投递使用保存的动作和同一回执进行重试；按会话顺序处理消息；发布前检查会话访问权限。这些建议指向一个现实问题：群聊场景的并发和重试远比单轮问答复杂。

示例中的 stopWhen: stepCountIs(1) 属于 AI SDK 的多步生成控制。默认情况下，模型返回工具调用后，SDK 会执行工具并把结果回灌给模型，从而触发下一步生成，形成「工具调用—结果回传—再推理」的循环。stepCountIs(1) 把循环限制为一步，意味着拿到工具调用即停止，不再自动发起下一轮模型请求。这正好对应 Ampersand「每轮只做一个决定」的语义，也解释了为什么 pass 之后不会立刻触发新的模型调用——沉默的延续由下一条人类消息驱动，而不是由模型自我循环驱动。

AI Gateway 提供了什么

AI Gateway 本身是一个统一调用层，负责追踪用量与成本、配置重试与故障转移，并提供高于单一提供商可用性的性能优化。它包含自定义报表、API 密钥预算、路由规则等能力。

定价方面，AI Gateway 按提供商价格计费且不加价，不对推理收取平台费，BYOK 请求同样适用。对于想低成本试验 Ampersand 的团队来说，免费窗口期加上零加价策略降低了试错成本。

在编码代理中使用时，需要先安装最新版 Vercel CLI 并运行 npx vercel ai-gateway setup，然后在代理中选择 humansand/ampersand-v0.1。模型游乐场也提供了直接体验入口。

BYOK（Bring Your Own Key） 指开发者使用自己在模型提供商处申请的 API 密钥，经由网关转发请求。这种模式下，网关通常只承担路由、观测和故障转移职责，而不经手提供商的计费；AI Gateway 声明 BYOK 请求同样不加价，意味着团队可以继续沿用既有合同与配额，同时获得统一的用量追踪和路由能力。对于已经在多家提供商处开户、又希望集中管理密钥与成本的团队，这是接入 Ampersand 这类新模型时较为平滑的路径。

这类模型的机会与隐忧

把"沉默"作为一等公民，是群聊 AI 的一个合理演进方向。现有助手在多人对话中往往制造噪音，而 Ampersand 把发言权交给模型自行判断，理论上能让协作更自然。它对企业聊天、项目讨论、多人决策等场景有直接吸引力。

不过，"判断何时该说话"本质上是主观且依赖上下文的。模型对共享目标的理解是否准确、对分歧的介入是否真的有益，都需要实际部署才能验证。官方示例用系统提示词要求"选择一个动作"，说明模型行为仍高度依赖调用方的提示设计。

另外，工具选择拒绝 required 和命名模式，虽然契合产品理念，但也意味着开发者无法在特定场景强制模型输出消息。对于需要确定性行为的应用，这是一个需要提前评估的约束。

Ampersand 目前处于 v0.1 阶段，免费开放期给了开发者一个观察窗口。它能否成为群聊场景的可靠参与者，取决于真实对话中的沉默判断是否足够克制、足够准确。