Laya
开源非自回归决策模型，基于ModernBERT-large编码器，参数量4.21亿，采用RLCD强化学习训练方法，专为意图路由、内容审核、事实核查等决策类任务设计
Core Facts
Timeline (last 90 days)
该版本支持导出基于 Qwen3.5 骨干的 Clef 模型以及 Laya 模型到 GGUF 格式
继TypeSafe的Jev和开源权重的Laya模型之后，AWS Strands Decider、Cloudflare Clef以及OpenAI的Decisions API等决策类产品陆续登场
在零样本模型路由任务上，Laya和Jev两款模型的表现都没能超过随机猜测
当面对50个最近邻工具且存在唯一正确工具时，Laya准确率骤降至31%，而Jev仍保持98%
在RAG相关性门控任务上，Laya和Jev两款模型打成平手，均未展现出决定性优势
当选项顺序被颠倒时，开放权重模型Laya会改变30%的答案
托管模型Jev在11个决策点中的9个上显著更准确，优势幅度从+10.8到+46.0个百分点不等
Laya 决策模型对短请求的响应最高快 4.1 倍，在 B200 上一次 3 问护栏检查从 11.6 ms 降到 2.8 ms
Laya 的加载时间从约 17 秒缩短到 9 秒左右，峰值主机内存需求减半
Laya 决策模型针对短请求实现了最高 4.1 倍的加速，提速主要来自 marker-only head 与 CUDA graphs 的引入
40 more timeline events
All Facts (20)
在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒
65%UnverifiedLaya是一款开源、开放权重的分类决策模型，可直接下载在本地运行
60%Unverified小型决策模型可作为大模型系统中的前置调度器或决策节点，在Agent工作流和多模型编排架构中扮演关键角色
60%UnverifiedLaya将双向的ModernBERT-large编码器与一个从零训练的Transformer头部配对，该头部对[MASK]选项标记进行打分
60%UnverifiedLaya整个模型是在单张RTX 6000 Pro（96GB显存）上完成训练的
60%UnverifiedRLCD是作者自称的（非官方命名）基于策略梯度的强化学习方法，针对严格正确评分规则优化决策模型，只有当模型输出数学上校准的概率时才获得最大奖励
60%Unverified该版本支持导出基于 Qwen3.5 骨干的 Clef 模型以及 Laya 模型到 GGUF 格式
50%Unverified当面对50个最近邻工具且存在唯一正确工具时，Laya准确率骤降至31%，而Jev仍保持98%
50%Unverified在RAG相关性门控任务上，Laya和Jev两款模型打成平手，均未展现出决定性优势
50%Unverified当选项顺序被颠倒时，开放权重模型Laya会改变30%的答案
50%Unverified托管模型Jev在11个决策点中的9个上显著更准确，优势幅度从+10.8到+46.0个百分点不等
50%Unverified在零样本模型路由任务上，Laya和Jev两款模型的表现都没能超过随机猜测
50%UnverifiedLaya 决策模型对短请求的响应最高快 4.1 倍，在 B200 上一次 3 问护栏检查从 11.6 ms 降到 2.8 ms
50%UnverifiedLaya 的加载时间从约 17 秒缩短到 9 秒左右，峰值主机内存需求减半
50%Unverified在 B200 上一次 3 问题护栏检查从 11.6 ms 降至 2.8 ms，Laya 加载时间从约 17 秒缩短到约 9 秒
50%UnverifiedLaya 决策模型针对短请求实现了最高 4.1 倍的加速，提速主要来自 marker-only head 与 CUDA graphs 的引入
50%UnverifiedLaya 决策模型可在 Apple Silicon 的 MLX 框架上原生执行
50%UnverifiedLaya、Kev 和 Ollaya 是围绕 Jev 出现的三个常被提及的开源替代方案
50%UnverifiedLaya只回答三类问题：Trace（从多个选项挑一个）、Score（给状态打分）、Yes/No（二元是非判断）
50%UnverifiedLaya存在错误时高置信度问题，出现过0分却给出0.952置信度的情况
50%