待验证50% 置信基准精确时间
斯坦福大学2024年发布的RouteLLM框架研究了三类路由方法，发现在MT-Bench等基准上合理路由策略可在保持95%质量下将GPT-4调用量压缩至约30%，成本节省高达70%
1
来源数
50%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
待验证斯坦福大学开源的RouteLLM系统实测显示，在保持GPT-4级别输出质量的前提下可将成本降低40%-70%77% 相似待验证FrugalGPT（Chen et al., 2023）提出基于级联调用的路由框架，先用最廉价模型回答，仅当置信度低于阈值时升级到更昂贵模型，实验表明可在保持 GPT-4 级别准确率的同时削减约 98% 的 API 费用76% 相似待验证FrugalGPT 是 2023 年斯坦福发表的研究，证明了通过级联策略可以在保持 GPT-4 级别质量的同时降低高达 98% 的推理成本74% 相似待验证采用模型路由策略将简单任务路由至GPT-3.5、Claude Haiku等廉价模型，复杂任务调用GPT-4o、Claude Opus等旗舰模型，可将平均单次调用成本压缩60%~80%73% 相似待验证斯坦福大学与Anyscale合作开发的RouteLLM框架，2024年论文证明基于RLHF偏好数据训练的路由器可在将50%请求路由至GPT-3.5级模型的前提下保持整体任务得分在GPT-4的95%水平以上71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/579932API
curl https://kongchang.com/api/v1/knowledge/claims/579932MCP
get_claim(id=579932)