概念小型决策模型 / 小模型决策器
小决策模型
参数量在数亿到数十亿之间(如1B-3B)的语言模型,推理路径短、显存占用低、单次调用成本低,适合执行意图识别、工具选择、参数生成、分类判别、槽位填充等结构化决策任务,但泛化到未见意图的能力弱于大模型
时间轴 (近 90 天)
10月13日
小决策模型的适用边界取决于任务确定性程度:当工具集固定、业务流程可枚举、用户意图可归纳为有限类别时,决策模型可以用很小的参数量覆盖大部分情况;一旦进入模糊、多义、需要大量世界知识的领域,决策模型可能缺乏足够语义理解能力。
待验证50%
10月13日
如果工具频繁变动、流程经常调整,决策模型的维护成本可能会抵消掉它在推理时的节省。
待验证50%