Unverified50% confidenceBenchmarkExact time
斯坦福大学2024年发布的RouteLLM框架研究了三类路由方法，发现在MT-Bench等基准上合理路由策略可在保持95%质量下将GPT-4调用量压缩至约30%，成本节省高达70%
1
Sources
50%
Confidence
Long-term
Relevance
7/21/2026
First Seen
Sources
Related Claims
Unverified斯坦福大学开源的RouteLLM系统实测显示，在保持GPT-4级别输出质量的前提下可将成本降低40%-70%77% similarUnverifiedFrugalGPT（Chen et al., 2023）提出基于级联调用的路由框架，先用最廉价模型回答，仅当置信度低于阈值时升级到更昂贵模型，实验表明可在保持 GPT-4 级别准确率的同时削减约 98% 的 API 费用76% similarUnverifiedFrugalGPT 是 2023 年斯坦福发表的研究，证明了通过级联策略可以在保持 GPT-4 级别质量的同时降低高达 98% 的推理成本74% similarUnverified采用模型路由策略将简单任务路由至GPT-3.5、Claude Haiku等廉价模型，复杂任务调用GPT-4o、Claude Opus等旗舰模型，可将平均单次调用成本压缩60%~80%73% similarUnverified斯坦福大学与Anyscale合作开发的RouteLLM框架，2024年论文证明基于RLHF偏好数据训练的路由器可在将50%请求路由至GPT-3.5级模型的前提下保持整体任务得分在GPT-4的95%水平以上71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/579932API
curl https://kongchang.com/api/v1/knowledge/claims/579932MCP
get_claim(id=579932)