Databricks 推出 ai_decide：专为快速结构化决策而生的 AI 函数

当 AI 工作负载其实只是在"做决定"

在构建 AI 应用时，很多团队默认把每一个环节都交给大语言模型（LLM）处理。但如果仔细审视实际的工作负载，会发现其中相当一部分任务本质上只是在"做一个决定"——对输入进行分类、打分，然后决定下一步走向哪里。为这类简单而高频的判断调用完整的 LLM，往往意味着不必要的延迟和成本。

Databricks 最新推出的 AI 函数 ai_decide 正是针对这一痛点而设计。它被定位为一个在受治理数据（governed data）之上进行快速、结构化决策的工具，能够在毫秒级别完成分类、评分和路径选择，相比在相似任务上直接使用 LLM，具备更低的延迟和成本优势。

ai_decide 是什么

ai_decide 是 Databricks AI Functions 家族中的新成员。根据官方描述，它的核心能力可以概括为三点：分类（classify）、打分（score）和选择下一步动作（choose what happens next），且整个过程在"几分之一秒"内完成。

与通用 LLM 的开放式生成不同，ai_decide 聚焦于结构化、确定性更强的决策场景。这意味着它的输出更可预测、更易于下游系统消费，同时避免了调用大型模型带来的计算开销。对于那些对响应时间敏感、调用量巨大的生产环境来说，这种取舍非常关键。

为什么"治理数据"值得强调

官方特别提到 ai_decide 运行在"受治理的数据"之上。这一点与 Databricks 一贯的数据治理（如 Unity Catalog）理念一脉相承——决策逻辑不是脱离数据管理的黑盒，而是建立在可审计、可控的数据平台之上。对于企业级应用而言，决策的可追溯性和合规性往往与决策本身同等重要。

Unity Catalog 是 Databricks 推出的统一数据治理层，提供跨云、跨工作区的数据资产集中管理能力，涵盖访问控制、血缘追踪（data lineage）和审计日志。当 ai_decide 这类决策函数运行在 Unity Catalog 管理的数据之上时，每一次决策的输入来源、执行策略和结果都可以被记录和追溯。这对金融、医疗等受监管行业尤为关键——监管机构不仅关心决策结果是否正确，还要求企业能够解释"为什么这样决定"。将 AI 决策逻辑与数据治理基础设施绑定，而非独立部署，是企业级 AI 合规的重要路径。

典型应用场景

官方列举了几类适合使用 ai_decide 的场景，覆盖了现代 AI 系统中常见的"轻决策"环节：

• 模型路由（model routing）：根据输入内容判断应该把请求分发给哪个模型或处理流程，是构建多模型架构时的核心调度逻辑。
• 文档处理（document processing）：对文档进行分类、分流，决定后续的解析或存储路径。
• Agent 评估（agent evaluations）：在智能体工作流中对中间结果或行动进行判断和打分。
• 实时应用逻辑（real-time app logic）：为对延迟敏感的在线应用提供即时判断能力。

这些场景的共同点在于：它们都需要频繁、快速的判断，但并不需要 LLM 的全部生成能力。把这些环节从昂贵的 LLM 调用中剥离出来，交给专门的决策函数，是优化 AI 系统性价比的一条务实路径。

更深层的意义：AI 工作负载的精细化分工

ai_decide 的推出，反映出一个正在成型的行业趋势：AI 工作负载正在走向精细化分工。早期大家倾向于用一个大模型"包打天下"，但随着应用规模化落地，成本和延迟成为绕不开的现实问题。

把工作负载拆解后会发现，真正需要大模型深度推理和生成能力的任务只占一部分，而大量的分类、路由、评分类任务可以由更轻量、更专用的组件来承担。这种"合适的工具做合适的事"的思路，正在从通用 LLM 调用向分层架构演进。ai_decide 本质上是在这个分层架构中补上了"快速决策层"这块拼图。

对于已经在使用 Databricks 平台的团队来说，这类原生函数的价值还在于它与数据平台的无缝集成——无需额外搭建独立的推理服务，就能在数据所在的地方直接完成决策，进一步降低了架构复杂度。

分层架构（layered architecture）在 AI 系统设计中指的是按任务复杂度和响应要求，将不同组件分配到不同层级：轻量的规则引擎或专用分类模型处理高频低复杂度请求，中间层负责路由与编排，大型基础模型仅在需要深度推理或开放式生成时介入。这种模式在推荐系统、搜索引擎等领域已经成熟——前端粗排用简单模型，精排才调用重模型。ai_decide 将这一思路引入 LLM 应用开发，本质上是将互联网工程长期积累的"分级计算"经验迁移到 AI Agent 和工作流场景中。随着 AI 应用的 QPS（每秒请求数）持续攀升，这种架构的成本优势将呈指数级放大。

小结

ai_decide 不是又一个追求"更强更大"的模型，而是一次对 AI 工作负载结构的务实反思。它提醒开发者重新审视自己的系统：有多少调用其实只是在做一个简单决定？把这些环节交给专门的决策函数，往往能在保持效果的同时显著降低延迟与成本。随着 AI 应用进入规模化部署阶段，这种对成本与效率的精打细算，将变得越来越重要。