AI决策模型是什么？Jev、Clef、Decider等十款产品解析

AI智能体在执行任务时，需要频繁做出大量微小的判断——是否继续、选择哪个工具、输出是否合规。这些判断如果用聊天机器人来跑，既慢又贵。于是，一类专门做决策的AI模型出现了。

从2026年9月中旬TypeSafe发布Jev开始，短短一个多月内，已有至少八家公司推出决策模型，包括Cloudflare的Clef、AWS Strands团队的Decider、Perplexity的pplx-decider、Liquid AI的d1系列、OpenAI的Decisions API以及Microsoft-Decision-1。它们共同的目标很明确：让AI智能体内部的"是或否""选哪个"这类调用，比通用聊天模型更快、更便宜。

决策模型和聊天模型有什么本质区别

聊天模型生成答案的方式是逐token写出文本。决策模型完全不写文本。应用向它发送一段输入（称为状态），加上一组带有固定答案的问题，模型返回每个允许答案的概率值。

TypeSafe创始人Diogo Almeida将其描述为一次函数调用："非结构化状态输入，类型化概率决策输出。""类型化"意味着返回结果始终符合预期格式——一个是非题的答案只能是"是"或"否"，不会出现模棱两可的句子。

目前多数厂商提供三类问题，只是叫法不同：是非题返回"是"的概率（Cloudflare、Perplexity称之为noul，OpenAI称之为predicate）；单选题返回每个选项的概率；评分题返回一个按概率加权的刻度值。

速度优势来自跳过文本生成环节。AWS Strands团队的做法是移除模型中生成词汇的部分，使Decider"始终从选定选项中产出答案"。Cloudflare的Clef读取一次输入后并行对所有有效选项打分。Liquid AI的表述最直接：d1模型"不产生token，通过单次前向传播给出答案"。

概率值经过校准才有实用意义——当模型标注80%确信时，实际正确率应接近80%。应用可以据此决定直接执行、转交人工还是交给更大的模型处理。

什么是概率校准

概率校准（calibration）是决策模型实用化的前提。一个模型如果对100个样本都输出"80%确信"，那么其中约有80个应当是正确的——这才叫校准良好。校准差的表现有两种：过度自信（标注80%但实际只对50%）和过度保守（标注60%但实际对90%）。校准通常用ECE（Expected Calibration Error，期望校准误差）或Brier分数来衡量。前述Laya在高棉语上0%准确率却报告95.2%置信度的案例，就是典型的严重过度自信。

校准失败会带来严重后果。如果智能体盲目信任模型给出的概率，把"95%确信"当成事实直接执行，就可能在高风险场景（如自动批准退款、放行内容）中造成损失。实际工程中常用的补救手段包括：温度缩放（用一批标注数据重新映射概率）、使用校准后的阈值而非原始概率决策，以及设置"不确定就升级给大模型或人工"的兜底路径。

十款决策模型横向对比

目前市面上的决策模型在开放程度、底层架构和定价上差异显著：

开放权重阵营：Convai Innovations的Laya基于ModernBERT-large（421M参数），Apache 2.0协议开放。Cloudflare的Clef系列全部开放权重，Clef基于Qwen3.8-27B，Clef-flash基于Qwen3.5-9B，Clef-omni则是30B混合专家模型（激活3B参数）。Perplexity的pplx-decider同样基于Qwen3.8-27B并以Apache 2.0开放。AWS Strands Decider 2B基于Qwen3.5-2B开源。Liquid AI的d1-3B和d1-omni-600M基于自家LFM2.5模型开放权重。

托管服务阵营：TypeSafe的Jev为托管服务，未公开底层模型。OpenAI的Decisions API基于gpt-6-luna，处于公开测试阶段。Microsoft-Decision-1部署在Foundry平台，基于Qwen3.5-9B。

定价方面，托管输入价格从Perplexity的每百万token 0.02美元到Cloudflare Clef的0.24美元，差距达十二倍。TypeSafe、OpenAI、Perplexity和Microsoft均表示输出token免费，仅按输入计费。需要注意的是，AlphaSignal在10月1日报道pplx-decider发布时给出的价格是0.04美元，与Perplexity官方文档的0.02美元不一致，实际预算前应核实最新定价。

开放权重与托管服务之争

"开放权重"指模型参数可以下载，用户能在自己的服务器上运行、微调甚至二次分发，Laya、Clef、pplx-decider等采用的Apache 2.0协议即属此类。托管服务则只提供API，用户无法接触模型本体，比如TypeSafe的Jev和OpenAI的Decisions API。

两条路线各有取舍。开放权重的优势是数据不出内网、可审计、无按次计费、可针对自有数据微调；代价是需要自备算力、承担运维成本，且更新要靠自己。托管的优势是开箱即用、弹性扩缩、厂商持续优化；代价是按量付费、数据要出内网、模型行为可能随时变化。对合规敏感的金融、医疗场景，开放权重往往是唯一可行方案。

文中的参数量（如421M、2B、30B MoE）决定硬件门槛：几百M的模型可在消费级GPU甚至CPU上跑，30B混合专家模型则需要专业卡。定价对比时还要注意"token"含义的差异——决策模型的输入通常是一次完整状态（可能包含工单全文、工具清单），并非聊天中的一个词。

一个月内从一款变成十款

这个赛道的膨胀速度值得关注。9月15日TypeSafe率先发布Jev，随后Convai Innovations在同月推出Laya。10月1日是一个集中爆发点——Cloudflare Clef、Strands Decider 2B和pplx-decider同日发布。10月7日Liquid AI推出d1-3B和d1-omni-600M。10月9日Cloudflare追加Clef-omni并将Clef-flash价格从0.09美元降至0.038美元。OpenAI和Microsoft的产品也在10月进入公开测试或上线。

输入模态也在快速扩展。Laya仅支持文本，Clef从发布起就支持图像。据Cloudflare更新日志，Clef-omni现已接受音频和视频输入。Liquid AI的d1-omni-600M支持文本配图像或音频。OpenAI表示Decisions API预计"在未来几周内"结束测试。

速度与成本的真相

速度是决策模型的核心卖点，但所有数据都来自各厂商自己的测试。Liquid AI称d1-3B在Nvidia RTX 4090上单次决策耗时8毫秒。Laya团队报告在Nvidia T4上为32.8毫秒。Strands团队测得RTX 3090上中位数约115毫秒。TypeSafe给出的Jev延迟范围是70至500毫秒。

单次决策成本极低。InfoWorld根据Microsoft的数据推算，1美元可覆盖超过275,000次类似的短决策——不过InfoWorld也指出这些是Microsoft自己的声明。

基准测试的对比更加困难，因为每家厂商发布自己的测试表。AlphaSignal报道pplx-decider在11项基准上得分85.71%，Jev为84.51%，但未说明测试由谁执行。跨模型比较时需谨慎对待这些数字。

为什么延迟数字难以横向比较

各家报出的8ms、32.8ms、115ms、70–500ms看似同类，实际测量条件差异极大。首先，硬件不同：RTX 4090、T4、RTX 3090的算力相差数倍，T4是较老的推理卡，跑出32.8ms并不等于模型本身慢。其次，"单次决策"的输入长度未必一致——状态越长，前向传播越久，有的测试用短输入，有的用完整工单。

再次，是否包含网络往返与排队：本地推理的8ms是纯计算时间，云端API的几百毫秒往往含网络和批处理等待。第四，批大小（batch size）影响巨大，服务端把多个请求合并推理能摊薄单次成本，但会抬高尾延迟。最后是"中位数"与"平均"、冷启动与稳态的差别。

因此厂商自报延迟只能当作量级参考。要评估是否满足业务SLA，必须在自己目标硬件、自己真实输入分布上做端到端压测，关注P95/P99而非平均。

局限性：不会解释，也不擅长复杂任务

决策模型无法解释自己的判断，也不能生成任何文本。Strands团队坦言Decider在复杂问题上显著弱于推理模型，不适合编程、聊天或摘要场景。Laya团队建议单个问题的选项不超过20个，因为选项越多准确率越低。他们的测试还发现，Laya在高棉语文本上得分为0%，却报告了95.2%的平均置信度——这是一个校准失败的典型案例。

InfoWorld引用的分析师也表达了类似担忧。Kanerika的AI开发经理Amit Kumar Jena指出："一个看起来精确的概率，可能让一个不确定的决策获得超出其应得的权威性。"

开发者现在该怎么用

将决策模型用于智能体内的常规判断：路由客服工单、选择工具、检查护栏规则或给输出打分。需要推理或生成文本的场景仍应保留完整的语言模型。Strands团队建议采用这种混合智能体架构。

在信任概率数字之前，先用自己的数据做校准测试。用几百个已知答案的历史案例跑一遍，验证80%置信度是否真的对应80%正确率。InfoWorld引用的分析师建议从可逆决策开始尝试。

按照真实流量比较价格。一次请求的成本取决于发送的输入token数量，托管价格从每百万0.02美元到0.24美元不等。Clef还兼容Jev的API，迁移成本可能接近于改一个网址。

如果数据必须留在内部，开放权重模型是唯一选择。Laya、Clef、Decider、pplx-decider和Liquid AI的d1系列都可以在自己的硬件上运行。

混合智能体架构的典型模式

所谓混合架构，是把"便宜快的判断"和"昂贵强的推理"分层。常见做法是：智能体每一步先调用决策模型做轻量判断——这一步要不要继续、该调哪个工具、输出是否越界——只有当决策模型给出低置信度或遇到需要生成文本/多步推理的任务时，才升级到完整语言模型。

这样既压低了高频小决策的成本（决策模型每百万token低至0.02美元，且输出免费），又保留了语言模型处理复杂任务的能力。工程上可设定置信度阈值：高于阈值直接执行，低于阈值转交大模型或人工。由于部分决策模型API互相兼容（如Clef兼容Jev接口），切换供应商往往只需改一个endpoint地址，这为A/B对比和多供应商冗余提供了便利。

需要注意的是，拆分本身会引入编排开销和状态传递成本，判断逻辑不宜嵌套过深，否则省下的推理费会被调度复杂度吃掉。