概念Model Tiering / 模型路由分层
模型分层
一种AI部署架构实践，将任务按复杂度分配给不同能力级别的模型，通过路由层自动匹配，在保证效果的前提下降低整体推理成本
时间轴 (近 90 天)
10月6日
模型分层策略建议用强力中端模型承担草稿等重创意任务，用更便宜更快的模型处理标题、摘要、话题标签等轻量任务
待验证50%
9月29日
模型分层（Model Tiering）是实现按需匹配的常见架构实践，将任务按复杂度分为若干层级，底层用小型本地模型或规则引擎，中间层用中等规模模型，顶层调用旗舰大模型
待验证50%
9月29日
实际落地时企业往往会发现超过60%的生产请求可以在较低层级完成，从而降低整体推理成本
待验证50%