判断模型
一类新型AI模型架构,不产出长篇文本,而是针对具体问题输出概率或分类分数,专为需要下游程序自动化处理的决策判断场景设计,与大语言模型形成互补
时间轴 (近 90 天)
ABACUS框架通过可复用程序组合冻结判断模型的决策来提升多步推理能力,且模型参数全程不更新。
传统判断模型直接输出最终答案,跳过中间推理步骤,在BIG-Bench Hard等复杂任务上准确率有限。
ABACUS采用生成式教师离线设计判断模式和组合程序,判断模型在线解决局部语义问题,保存的程序负责将决策组合成最终答案。
ABACUS团队用Kev实例化框架:教师模型负责规划推理步骤并生成程序代码,冻结的判断模型作为语义执行器对每个步骤的候选答案打分。
Kev是一种基于判断模型的推理框架/接口,允许通过自然语言或结构化指令调用冻结模型对候选答案进行打分,而不依赖模型直接生成完整回答。
判断模型专为快速分类和置信度评分优化,只输出概率值,在内容审核、风险评估、实时路由等高频低延迟场景具优势
全部知识事实 (6)
ABACUS框架通过可复用程序组合冻结判断模型的决策来提升多步推理能力,且模型参数全程不更新。
50%待验证传统判断模型直接输出最终答案,跳过中间推理步骤,在BIG-Bench Hard等复杂任务上准确率有限。
50%待验证ABACUS采用生成式教师离线设计判断模式和组合程序,判断模型在线解决局部语义问题,保存的程序负责将决策组合成最终答案。
50%待验证ABACUS团队用Kev实例化框架:教师模型负责规划推理步骤并生成程序代码,冻结的判断模型作为语义执行器对每个步骤的候选答案打分。
50%待验证Kev是一种基于判断模型的推理框架/接口,允许通过自然语言或结构化指令调用冻结模型对候选答案进行打分,而不依赖模型直接生成完整回答。
50%待验证判断模型专为快速分类和置信度评分优化,只输出概率值,在内容审核、风险评估、实时路由等高频低延迟场景具优势
50%