[控场AI]
· 5 分钟阅读· 2,646 字

微软Decision-1.1上线AI网关:结构化决策模型解析

微软Decision-1.1上线AI网关:结构化决策模型解析

微软Decision-1.1决策模型上线AI Gateway,返回结构化答案替代自由文本。

微软AI的Decision-1.1模型已登陆AI Gateway,与生成式模型输出自由文本不同,它专注于返回结构化答案,面向路由工单、选择工作流下一步、给AI回复打分等决策类任务。模型支持Boolean、Choice、Score三种问题类型,返回概率或数值评分,调用方可设置阈值或加权处理;多个问题可在一次请求中共享同一输入,减少重复调用。接入上沿用Decision-1格式,只需改模型ID,可通过AI SDK、兼容OpenAI的Decisions API或AI CLI调用。决策请求会进入日志、计入预算并支持fallback,但接口在SDK中仍标记为experimental。文章强调这类模型补上「必须给出确定选项」的场景,而非取代生成式模型。

微软AI推出的Decision-1.1模型现已登陆AI Gateway。与生成式模型输出自由文本不同,Decision-1.1专注于返回结构化答案,面向路由支持请求、选择工作流下一步、给AI回复打分等决策类任务。

Decision-1.1 now available on AI Gateway

为什么需要「决策模型」

大多数对话模型被用来写文案、答问题,输出的是自然语言段落。但在工程系统里,很多环节需要的是一个明确的选择或数值,而不是一段可以被随意解读的文字。比如客服工单该分给账单团队还是技术团队,审批流程的下一步该走哪个节点,模型给出的回答质量是高还是低。

Decision-1.1的思路是把这类判断变成可编程的返回值。开发者定义好问题和选项,模型返回结构化的结果,下游代码可以直接使用,省去从自然语言里解析意图的环节。这降低了集成复杂度,也让决策过程更容易被记录和审计。

「结构化输出」(Structured Output)是理解这类模型的关键背景。传统大语言模型默认生成自由文本,即便在提示词中要求「只回答是或否」,输出仍可能夹杂解释性语句,需要正则或二次解析才能提取结果。结构化输出则通过约束解码(constrained decoding)或函数调用(function calling)机制,强制模型按预定义的模式返回,例如JSON对象、枚举值或数值。Decision-1.1将这一能力进一步产品化:开发者无需自行设计JSON Schema,只需声明问题类型(Boolean/Choice/Score)和候选标准,模型即返回可直接反序列化的答案对象。这种做法把「输出格式的可靠性」从提示工程转移到API契约层面,使决策逻辑更容易测试、版本化和审计,也避免了自然语言解析带来的歧义与脆弱性。

三种返回类型与批量提问

据官方说明,Decision-1.1支持三种问题类型。Boolean返回一个条件为真的概率;Choice返回选中的类别以及每个选项的概率分布;Score则在开发者自定义的量表上给出数值评分。概率和评分的存在,让调用方可以设置阈值或做加权处理,而不是只能接受一个非黑即白的结论。

另一个值得关注的细节是,多个问题可以在一次请求中共享同一份输入。这意味着系统可以对同一段工单文本同时判断部门归属、紧急程度和处理建议,减少重复的模型调用。

Choice类型返回的概率分布值得展开。模型对每个候选类别给出一个概率值,通常经过softmax归一化,总和为1。调用方可以据此设置置信度阈值:例如最高概率低于0.6时转人工复核,或按概率加权分配工单。Boolean类型返回的是条件为真的概率而非硬性布尔值,同样支持阈值判断。Score类型则在开发者自定义的连续量表(如1-5分或0-100分)上输出数值,适合对AI回复质量、风险等级等做排序或打分。这种「概率化输出」的设计让决策模型不同于分类器——它保留不确定性信息,使下游系统能够基于置信度做分级处理,而不是被迫接受一个可能错误的确定结论。

接入方式与迁移成本

Decision-1.1沿用Decision-1的请求格式,切换时只需把模型ID改为microsoft/decision-1.1。调用入口包括AI SDK、兼容OpenAI的Decisions API以及AI CLI。官方示例注明,TypeScript需要ai 7.0.128或更高版本,Python需要OpenAI Python SDK 3.26.0或更高版本。

代码示例中,开发者通过experimental_decide函数发起决策请求,传入state描述当前情况,questions里声明每个问题的类型、指令和候选标准,最终从返回的answers中读取choice字段。需要注意的是,该接口在SDK中仍标记为experimental,后续可能有调整。

文中提到的experimental_decide接口标记为experimental,意味着其函数签名、参数结构和返回格式在后续SDK版本中可能发生不兼容变更。对生产系统而言,这要求开发者在集成时做好隔离:将决策调用封装在独立的适配层中,避免experimental接口的变动扩散到业务代码;同时锁定SDK版本并在升级前阅读变更日志。此外,AI SDK、兼容OpenAI的Decisions API和AI CLI三种入口对应不同的使用场景——SDK适合应用内集成,兼容OpenAI的API便于复用现有客户端代码,CLI则适合脚本化测试和调试。开发者应根据部署环境选择合适的入口,并注意TypeScript与Python对SDK最低版本的要求差异。

运营与可观测性

Decision请求会出现在请求日志中,计入预算,并支持decision fallbacks。对生产系统而言,这几项能力决定了模型能否被放心地放进关键链路:日志便于排查误判,预算控制成本,fallback机制则在决策失败时提供兜底路径。

开发者可以在model playground中试用Decision-1.1,请求格式和问题类型的细节可查阅决策模型文档。

「decision fallbacks」指当主决策模型调用失败、超时或返回结果不满足约束时,系统自动切换到备用模型或预设规则的机制。在关键链路中,fallback是保障可用性的兜底手段:例如主模型不可用时回退到规则引擎,或切换到另一模型版本重试。与之配套的请求日志记录每次决策的输入、问题类型、返回答案和概率,便于事后排查误判、分析分布漂移;预算计入则将决策调用纳入统一的成本核算,避免高频批量决策悄悄推高开销。这三项能力共同回答了生产环境的核心问题——模型出错时能否发现、能否止损、成本是否可控,因此是决策模型从实验走向生产的前提条件。

适用场景的边界

结构化决策模型并非要取代生成式模型,而是补上「必须给出确定选项」的那一类场景。当业务规则清晰、候选集合有限时,让模型直接返回类别和概率,比让它写一段解释再由程序解析更稳妥。反过来,如果任务本身需要开放式创作或长文本推理,这类模型并不合适。

Decision-1.1的价值在于把模型能力嵌进流程控制层,让AI的输出从「可以参考的建议」变成「可以直接执行的结果」。

#Decision-1.1#微软AI#AI Gateway#结构化决策模型#Decisions API#AI SDK#工单路由#decision fallbacks
分享:

相关推荐