Unverified50% confidenceOpinionExact time
Decisions API在智能体架构中对应快慢系统分层中的快系统角色,用于剥离高频低复杂度判断,仅在复杂节点调用重型推理模型
1
Sources
50%
Confidence
Long-term
Relevance
10/6/2026
First Seen
Sources
Related Entities
Related Claims
Unverified对延迟要求高的在线推理场景可路由至轻量模型,对复杂离线分析任务调用能力更强但成本更高的大参数模型,以控制推理成本74% similarUnverifiedv0.5.21 新增 Decisions API(/v1/decisions),可将大模型变成低延迟的分类器与打分器73% similarUnverifiedRouteLLM 通过轻量级分类器在推理前预判请求复杂度,自动决定调用强模型还是弱模型72% similarUnverified模型选型的关键考量包括 API 定价、响应延迟、上下文窗口大小、工具调用能力以及代码生成和复杂推理表现72% similarUnverified决策模型是专门为实时行为控制设计的轻量推理模型,以极低延迟输出离散动作指令(如上下左右),可压缩到几百 MB 以内,与通用大语言模型有本质区别71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/982510API
curl https://kongchang.com/api/v1/knowledge/claims/982510MCP
get_claim(id=982510)