待验证50% 置信解决方案精确时间

使用便宜的小模型处理过滤、路由、摘要等辅助任务，再将精炼信息交给昂贵的主模型，是控制成本与延迟的一种分层架构路径

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

Parsec开源工具：用小模型给AI Agent瘦身上下文

涉及实体

小语言模型concept

相关事实

待验证使用路由机制根据任务复杂度将请求分发给不同规模的模型可以在整体层面降低平均调用成本77% 相似待验证成本优化策略包括使用轻量级模型承担低决策复杂度子任务、压缩Agent间消息、设置最大迭代轮次上限75% 相似待验证把合适的任务交给合适的模型，盲目使用顶配模型既慢又费额度75% 相似已验证组合运用RAG策略、Prompt缓存、上下文精简、模型微调等手段往往能在不牺牲质量的前提下将成本降低一个数量级74% 相似待验证级联路由（cascading）先让小模型尝试，若置信度不足再升级到大模型处理，是兼顾成本和质量的折中方案74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924888

API

curl https://kongchang.com/api/v1/knowledge/claims/924888

MCP

get_claim(id=924888)