[控场AI]
· 7 分钟阅读· 3,793 字

Jev、Drex、Laya三款System One决策模型对比

Jev、Drex、Laya三款System One决策模型对比

2026年System One决策模型三强对比:Jev、Drex、Laya的定位差异与选型逻辑。

文章介绍了2026年出现的System One决策模型,这类模型单次推理返回结构化概率而非逐token生成文本,输出可靠且易于自动化。重点对比了TypeSafe的Jev、Nace的Drex和ConvAI的Laya三款模型:它们共享同一API协议,但在开源程度、部署方式、模型规模、上下文、延迟和价格上差异显著。质量数据方面,Jev零样本表现最佳,Laya零样本弱于多数类基线但微调后反超,Drex介于两者之间。文章强调基准数字来源不同不可直接比较,建议用自有业务样本实测选型,并给出了针对不同场景的选型建议。

2026年出现了一类新模型:System One决策模型。它不逐token生成答案,而是读取一段文本(称为state)和一组结构化问题,单次推理即返回每个选项的概率。没有需要解析的自由文本,也就没有跑偏的输出。

目前值得关注的三个模型是TypeSafe的Jev、Nace的Drex和ConvAI的Laya。本文基于三者公开的文档、模型卡和独立基准,梳理它们的定位差异和选型逻辑。

Jev、Drex、Laya对比来源

统一协议下的三种路径

三款模型共享同一套API:POST /v1/systemone,传入state和问题映射。这是TypeSafe定义的协议,Jev是首个实现,Drex和Laya都做了wire-compatible兼容,切换模型基本只需改base URL。

问题类型也一致:choice从命名选项中选择并返回置信度和分布;noul判断命题真假,返回P(true);score在有序刻度上定位,返回期望等级和分布。

典型场景包括工单路由、邮件分类、抽取字段校验、动作前的guardrail拦截。业务逻辑、权限和算术留在代码里,模型只负责判断。

System One决策模型与常规LLM的核心区别在于推理范式。传统LLM是自回归的“System Two”式逐token生成,需要后处理解析自由文本;而System One模型将输入视为一个完整的state,通过单次前向推理直接输出结构化概率分布,本质上是一个受约束的分类器。这种设计牺牲了生成灵活性,换来了确定性输出、低延迟和易于校准的置信度,特别适合需要可靠判断的自动化流程。协议中的choice、noul、score三种问题类型,分别对应多分类、二分类和有序回归,覆盖了大多数业务决策场景。

关键维度横向对比

三者的路线差异比参数差异更值得关注。

开源程度:Jev完全闭源;Drex开放权重但采用Open RAIL-M许可,带使用限制,并非OSI定义的开源;Laya采用Apache 2.0,限制最少。

部署方式:Jev只有托管API(api.typesafe.ai,也可通过OpenRouter调用);Drex托管和自托管双通道;Laya完全自托管(laya-serve),另有一个免费Demo Space。

模型规模:Jev未披露;Drex基于Qwen3.6-35B-A3B MoE,总参35B、激活约3B,自托管需要约70GB bf16或37GB Q8 GGUF的大GPU;Laya由ModernBERT-large 421M和mmBERT-base 322M编码器组成,T4甚至CPU即可运行,CPU延迟193–464ms。

上下文:Jev每请求64K、每问题32K,加长上下文头可到262K;Drex托管128K,自托管默认16K、最高128K;Laya仅512(英文)/1024,多语言最高8K。

延迟:Jev独立实测p50为236–316ms;Drex厂商数据约25 req/s每H100;Laya在T4上33–40ms,是三者中最低的。

价格:Jev每百万输入token 0.042美元,输出免费;Drex托管每百万输入token 0.06美元,输出免费,注册送25美元额度,自托管对个人、研究及营收和融资低于100万美元的组织免版税,其余需商业许可;Laya自托管免费。

Open RAIL-M许可是一种“开放但受限”的模型许可,允许免费使用、修改和分发,但附带使用限制条款(如禁止用于歧视、监视等),且要求下游衍生品沿用相同限制。它由BigScience等组织推动,不属于OSI定义的开源许可,因为OSI要求不得限制使用领域。Apache 2.0则是标准开源许可,允许商业使用、修改和再分发,仅需保留版权声明,限制最少。选型时需注意:Drex的Open RAIL-M可能对某些行业应用(如执法、医疗诊断)构成合规障碍,而Laya的Apache 2.0则无此顾虑。

质量数据背后的真实差异

零样本质量上,Jev是参考基准。Drex厂商报告在其Decision Index上以61.25对57.96领先Jev,但在JevBench上以85.7%略低于Jev的86.6%。Laya的零样本表现明显偏弱,在typed-decisions上仅0.362,低于0.461的多数类基线。

微调后格局反转。Laya在同一基准上达到0.766,对比第三方公布的Jev 0.727;Drex则以厂商服务形式提供微调。这意味着Laya的价值高度依赖标注数据,零样本直接上线并不合适。

多选项场景差异显著。Jev和Drex都支持最多255个选项,Jev在完整的Banking77测试(77个标签)上达到79.2%;Laya在默认设置下超过约20个选项后性能下滑,Banking77上仅0.425。

校准方面,Jev无厂商数字,独立测试的ECE在0.02–0.35之间随任务波动;Drex未公布;Laya在温度拟合前过度自信(0.466),拟合后降至0.081。

语言能力上,Jev以英文为主,包括CJK在内的其他语言准确率较低;Drex未公布语言列表;Laya覆盖100种以上语言,实测51种中有45种可用,并内置语言路由器。

此外,Jev 1.14以jev-preview形式于10月14日发布预览,jev-latest仍指向1.13。

ECE(Expected Calibration Error,期望校准误差) 衡量模型预测置信度与实际准确率之间的偏差。ECE越低,说明模型“知道自己知道什么”——例如当模型给出80%置信度时,实际准确率也接近80%。ECE在0.02–0.35之间波动,意味着Jev的校准质量高度依赖任务类型;Laya温度拟合前ECE为0.466(严重过度自信),拟合后降至0.081,说明后处理校准能显著改善可靠性。对于guardrail拦截等高风险场景,ECE是比准确率更关键的指标,因为过度自信的错误预测可能导致严重后果。

选型建议

选Jev:需要今天就能零样本可用、SDK和文档最成熟、且接受纯托管服务。适合快速验证和不想运维的场景。

选Drex:希望保留两条路——当前托管价格接近Jev,未来数据必须留在自有环境时可转向开放权重。它还有最大的默认上下文128K。需要注意两点:组织营收和融资超过100万美元阈值时需确认许可;自托管需要大GPU。

选Laya:任务窄、量大、延迟敏感,且有标注样本可微调。它是唯一能在CPU和边缘设备上舒适运行的模型,也是唯一公布多语言结果的模型。

一句话概括:Jev是托管默认项,Drex把同一思路同时做成托管服务和开放权重,Laya则是你自己训练和运行的小模型。

零样本(zero-shot) 指模型在未见过任何任务特定标注数据的情况下直接推理,依赖预训练阶段获得的通用判断能力。微调(fine-tuning) 则是在少量标注样本上继续训练,使模型适配特定任务分布。本文中Laya零样本仅0.362(低于多数类基线0.461),但微调后达到0.766,反超Jev的0.727,典型说明了“小模型+领域数据”可能优于“大模型零样本”的规律。选型时需评估自身是否具备标注能力:若无标注数据,Jev是更稳妥的零样本选择;若有50–100条以上标注样本,Laya的微调潜力和低部署成本更具吸引力。

基准数字要谨慎解读

这些数字几乎都不可直接横向比较。

Drex的数据由Nace自行报告。Laya对Jev的对比使用的是第三方公布的Jev数字,模型卡明确说明Laya团队从未自行测量;广为流传的"超越Jev"结果来自在该基准训练集上微调过的checkpoint,而基座checkpoint在该基准上低于多数类猜测。Jev的延迟、Banking77和校准数据来自两个独立基准仓库,TypeSafe本身不发布准确率或校准数字。

正因为三款模型共享同一协议,选型成本很低:从自己的业务中取50–100个真实决策,三者都跑一遍再比较。还要针对性测试各自的已知弱点:注入文本会改变Jev的概率输出;Laya的score问题和noul在标签处理上存在跟随选项标签而非state的倾向。

常见问题

System One模型和传统LLM有何区别? 传统LLM逐token生成自由文本,需要解析且可能跑偏;System One模型单次推理返回结构化概率,输出格式天然受约束,适合需要可靠判断的自动化流程。

三款模型可以互换吗? 可以。API协议一致,切换主要是更换base URL,但模型能力、部署方式和许可差异很大,需要在真实业务样本上验证后再决定。

Drex是开源模型吗? 开放权重但采用Open RAIL-M许可,带使用限制,不属于OSI定义的开源软件;Laya的Apache 2.0才是标准开源许可。

#System One决策模型#Jev模型#Drex模型#Laya模型#决策模型对比#结构化概率输出#模型选型#开源权重
分享:

相关推荐