[控场AI]
概念model routing / cascading / 级联

模型分层混用

模型分层混用是一种按任务难度将请求分派给不同规模模型的推理优化策略,轻量模型处理简单任务、大模型处理复杂推理,并可级联升级复核,以控制成本并抑制错误传播。

来源文章