决策模型
由Maggie Appleton提出的AI模型新范式概念,指接受文本输入但输出结构化概率决策(而非文本)的模型类型,适用于分类、评分、排序等决策任务
核心事实
时间轴 (近 90 天)
决策模型的使用量正在激增。
决策模型的输出往往直接关联业务后果,因此对准确性、稳定性和可审计性的要求高于一般AI应用。
决策模型是一类专门用于辅助或自动化判断的AI模型,与生成式模型侧重内容创作不同,它更强调在给定输入下输出最优行动或判断,典型应用包括风控评分、供应链调度、定价策略等。
通用决策模型基于公开数据训练,难以捕捉企业内部的隐性知识和特有规则。
Sqwish Labs提出了一种用用户自有数据训练决策模型以最大化其能力的新思路。
研究建议决策模型的应用范围应限制在模型可靠的字段上,并对数值型信息结合其他方法处理。
决策模型表现不佳的三类场景包括:被分箱为类别的测量值、正确答案未被报告的字段、部分复杂决策(如切缘是否受累)。
Zhongyu Wei 团队的研究得出,最好的决策模型在文档理解类问题上能略微超过 LLM,在工具使用类问题上接近 LLM,但在需要医学、金融、法律等专业知识的领域则落后。
短期内,决策模型更适合嵌入检索、路由、内容审核与结构化信息抽取等中间层,而不是直接面向终端用户。
对于决策模型而言,置信度校准质量直接决定了低置信度转人工策略的有效性,因此比单一准确率更具工程参考价值。
还有 40 条时间轴事件
全部知识事实 (20)
决策型模型擅长分类、路由、判断这类结构化任务,而非长篇文本生成
90%已验证推理模型在需要多步逻辑推导的信息综合任务中表现更优,但延迟更高,需根据任务特性合理选用
90%已验证决策模型(Decision Model)是一类专门为在有限选项中做出选择而设计的模型,输出约束在预定义结构上,与生成模型根本区别在于输出空间。
75%已验证决策模型是一类区别于生成式语言模型的专用架构,核心目标是对给定输入输出结构化判断结果而非生成自然语言文本
75%已验证决策模型专注于回答是/否判断、多项选择以及带概率的评分类问题
75%已验证期望校准误差(ECE)通过将预测样本按置信度分桶,计算每桶内预测置信度与实际准确率之差的加权平均值,理想情况下趋近于0
75%已验证决策模型的输出往往是有限动作集合中的一个标签或概率分布,类似于强化学习中的策略网络,而生成模型需要在巨大词汇表上进行自回归采样
70%已验证决策模型不生成文本,而是给定输入状态和一组命名问题,在一次前向传播中返回带概率的类型化答案。
65%已验证Tool的流程由模型驱动(model-driven):用户问题先发给LLM,由LLM判断调用哪个工具,决策权在模型
65%已验证判断型决策模型的输出是封闭的结构化结果,本质上是一次前向传播的分类或回归任务,不存在自回归迭代开销
65%已验证小型决策模型可作为大模型系统中的前置调度器或决策节点,在Agent工作流和多模型编排架构中扮演关键角色
65%已验证本地运行的模型相较于云端千亿参数大模型,在推理深度、上下文长度和复杂分析能力上有所取舍
65%待验证决策模型的推理路径极短,往往只需几次向量变换即可给出概率分数,这是其速度优势的根本原因
70%待验证高准确率的前沿模型评审之间的错误依赖性更强,即使这些评审来自不同的服务商
70%部分验证决策模型(Decision Model)针对内容返回一个概率或分类结果,而非输出长段文字,其结构化输出可直接用于代码的 if 判断
65%待验证带类型的问题预先声明答案的取值空间,让模型只能输出归一化概率分布,从而排除解析错误、格式漂移和幻觉。
60%待验证决策模型将任务重新定义为分类或评分问题,直接给出结构化结果而无需生成描述性文字
60%待验证决策模型的输出空间被固定为有限选项集合,可对所有候选项并行打分而非串行解码,因此延迟大幅降低
60%待验证云端推理需要经历网络往返(请求上行、服务器排队、模型计算、结果下行),每一步都会引入延迟
60%待验证当控制层比模型推理更难维护时,本身就是应该将决策权放给模型的信号
60%