待验证50% 置信解决方案精确时间

模型分级调用策略将简单意图识别交给7B量级小模型、复杂推理上送GPT-4o，可将Token成本降低60%以上

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/14

首次发现

有效期至：2026/10/12

来源

企业级AI智能体实战：Hermes Agent开发指南

相关事实

待验证简单任务使用GPT-3.5级别模型成本约为旗舰模型的1/20，合理的LLM路由可将整体推理成本降低60%-80%82% 相似待验证通过梯度化模型调度策略，80%的简单任务由最便宜的模型处理，仅5%的复杂任务动用顶级模型，整体成本可降低60-70%75% 相似待验证动态路由到小模型的策略可将整体成本降低60%以上74% 相似待验证通过精简上下文、优化System Prompt设计、采用少样本示例等Prompt工程技巧，可将相同质量输出的Token消耗降低30%-60%73% 相似已验证合理的模型路由策略可将整体推理成本降低40%至70%73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/503356

API

curl https://kongchang.com/api/v1/knowledge/claims/503356

MCP

get_claim(id=503356)