待验证50% 置信观点精确时间
ScaleDown将自己的产品命名为Constrained Decoding Models，容易与通用的约束解码技术混淆，但前者是特定厂商的任务专用小模型，后者是可用于任意LLM的解码时约束方法。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
涉及实体
相关事实
待验证Structured Outputs通过约束解码（Constrained Decoding）技术实现，在模型生成token时动态限制可选token的范围72% 相似待验证Outlines 采用约束式解码（Constrained Decoding）思路，在生成的每一步约束模型的采样行为71% 相似待验证LLM 推理在 decode 阶段通常是内存带宽受限而非计算受限，因为逐 token 生成需加载整个模型权重但算术强度极低71% 相似待验证业界降低LLM推理成本的主要优化路径包括模型量化、推测解码（Speculative Decoding）和语义缓存机制71% 相似待验证ScaleDown建议将小型模型环绕主LLM工作：小型模型处理例行的分类、抽取、压缩，通用模型负责需要生成的部分。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1040912API
curl https://kongchang.com/api/v1/knowledge/claims/1040912MCP
get_claim(id=1040912)