AI工具泛滥下的治理难题：Unity Gateway如何管控成本与用量

AI工具越多，问题也越多

当团队引入的AI工具越来越多，一连串管理问题也随之浮现：到底谁在用哪个模型？这些调用花了多少钱？效果究竟如何？在一场由 Matei Zaharia 和 Kasey Uhlenhuth 主持的网络研讨会上，两人围绕企业AI用量的可见性与控制力，展示了 Unity Gateway 和 Omnigent 两套工具的实际能力。

对于任何规模化落地AI的组织来说，这些问题并非小事。模型、智能体（agents）、执行框架（harnesses）和工作流的组合日益复杂，如果缺乏统一的观察和管控手段，成本很容易失控，质量也难以保证。

Unity Gateway：让AI用量看得见、管得住

Unity Gateway 的核心价值在于为团队提供跨模型、跨智能体、跨工作流的统一视图。换句话说，它把散落在各处的AI调用集中到一个可观测的平面上，让管理者能够清楚地看到资源流向。

研讨会演示的一个典型场景是预算管控。系统可以在用量接近或超出预算时主动发出通知——正如演示中所展示的，工具会明确提示「我已经用完了预算」，从而在成本失控前给出干预信号。

这种机制对工程师和管理者都有实际意义。从工程师的角度，在启动一个智能体任务之前，就能知道自己是否还有可用额度；从管理层的角度，则获得了对成本的实时把控能力，而不是等到账单出来才追悔莫及。

可观测性（Observability）是这类工具的底层逻辑。在分布式系统领域，可观测性指通过系统对外暴露的日志、指标和追踪信息，推断其内部状态的能力。AI调用的可观测性则在此基础上延伸：不仅要记录哪个服务被调用，还需追踪调用了哪个模型（如 GPT-4o 还是 Claude 3.5）、消耗了多少 token、延迟是多少、输出质量如何。在多团队、多项目并行使用AI的场景下，缺乏这一层可见性，很容易出现"账单到了才发现花超了"的困境。Unity Gateway 将这些分散的调用信号汇聚到统一平面，本质上是把AI调用纳入企业既有的基础设施治理体系。

Omnigent：复用已有工具，同时守住治理底线

如果说 Unity Gateway 解决的是「看见与控制」的问题，那么 Omnigent 面向的则是「复用与协作」。它让开发者能够组合并共享他们已经在使用的编码智能体和 SDK，而不必推倒重来。

这一点在实践中尤为关键。企业内部往往已经积累了各种编码工具和智能体，强制统一到单一平台通常会遭遇阻力。Omnigent 的思路是尊重开发者既有的工具选择，让他们在熟悉的环境中继续工作，同时把治理、成本和质量的管控权留给团队负责人。

这种「开发者自由 + 管理者管控」的双轨设计，反映了当前企业AI落地的一个核心矛盾：既要让一线人员保持效率和灵活性，又要避免用量无序扩张带来的成本与合规风险。

编码智能体（Coding Agents）是近一两年快速普及的AI应用形态，典型代表包括 GitHub Copilot、Cursor、Devin 等。与简单的代码补全不同，编码智能体能够自主拆解任务、调用工具、读写文件、执行命令，完成跨多步骤的复杂编程任务。企业内部通常已有开发者自行选用的各类编码智能体和 SDK（如 LangChain、LlamaIndex 等执行框架），形成了事实上的工具碎片化。Omnigent 的设计选择"兼容共存"而非"强制迁移"，正是应对这一现实：让开发者保留已有工具栈，但在其上增加一层共享与治理机制，使团队负责人能够统一管理权限、成本分摊和质量基线，而不必推行难以落地的工具统一化政策。

企业AI治理正在成为新的焦点

从这场研讨会传递的信息看，AI工具的采购和使用已经进入了一个新阶段。早期的关注点是「能不能用上AI」，而现在的重点越来越转向「如何用好、用得可控」。当模型和智能体成为团队日常工作的一部分，围绕它们的可观测性、成本核算和质量评估就变得不可或缺。

Unity Gateway 和 Omnigent 代表的正是这一趋势下的工具化尝试——把AI用量当作需要治理的基础设施来对待，而不是任其野蛮生长。对于正在扩大AI应用规模的团队而言，这类治理能力可能比再多引入一个新模型更有价值。

需要说明的是，本文基于研讨会推广信息与演示截图整理，具体功能细节和实际效果仍需以官方演示和实际使用为准。

成本核算（Cost Attribution）是企业AI治理中最紧迫的实务问题之一。主流大模型均按 token 计费，一次复杂的多智能体任务可能触发数十次模型调用，总成本难以事前估算。若缺乏细粒度的归因机制，企业无法判断哪些项目、哪些团队、哪些工作流产生了高成本，也无法进行有效的投入产出评估。合规风险同样不容忽视：部分行业（金融、医疗、法律）对数据送出至第三方模型有严格限制，统一的调用网关可以在此处充当策略执行点（Policy Enforcement Point），对敏感数据请求进行拦截或脱敏，这也是企业选择自建或采购网关产品的重要驱动力之一。