待验证50% 置信观点精确时间
Decisions API在智能体架构中对应快慢系统分层中的快系统角色，用于剥离高频低复杂度判断，仅在复杂节点调用重型推理模型
1
来源数
50%
置信度
长期有效
时效性
2026/10/6
首次发现
来源
涉及实体
相关事实
待验证对延迟要求高的在线推理场景可路由至轻量模型，对复杂离线分析任务调用能力更强但成本更高的大参数模型，以控制推理成本74% 相似待验证v0.5.21 新增 Decisions API（/v1/decisions），可将大模型变成低延迟的分类器与打分器73% 相似待验证RouteLLM 通过轻量级分类器在推理前预判请求复杂度，自动决定调用强模型还是弱模型72% 相似待验证模型选型的关键考量包括 API 定价、响应延迟、上下文窗口大小、工具调用能力以及代码生成和复杂推理表现72% 相似待验证决策模型是专门为实时行为控制设计的轻量推理模型，以极低延迟输出离散动作指令（如上下左右），可压缩到几百 MB 以内，与通用大语言模型有本质区别71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/982510API
curl https://kongchang.com/api/v1/knowledge/claims/982510MCP
get_claim(id=982510)