约束解码

约束解码（Constrained Decoding）在模型生成每个token时动态屏蔽不符合目标语法或Schema的候选词，从解码层面保证输出结构合法。

受限解码（Constrained Decoding）在自回归生成的每个Token步骤上，根据有限状态机或上下文无关文法计算合法Token集合并重新归一化概率，从数学上保证输出符合目标schema

约束解码通过在每一步生成时屏蔽掉不符合目标语法或Schema的Token，强制模型输出符合预设结构

约束解码只能保证输出的语法结构合法（形状），无法保证输出内容的语义正确性。

JSON Mode仅保证输出是合法JSON但不约束字段结构；Structured Outputs通过在解码阶段应用有限状态机（FSM）约束token采样路径，从语法层面强制输出符合预定义JSON Schema

约束解码通过预定义的JSON Schema限制模型每生成一个token只能从合法token集合中选择

约束解码（Constrained Decoding）从采样层面保证输出必然符合指定的JSON Schema或正则表达式，典型开源实现有Outlines、Guidance、LM Format Enforcer

语法约束解码的核心方法是在模型逐token生成输出过程中，利用上下文无关文法（CFG）过滤不合法的token选项，将不合法token的logits设为负无穷

指令遵循与工具调用依赖严格的序列结构约束（如 JSON 语法、函数签名），扩散解码的全局并行更新并不天然保证这些约束被逐位满足，通常需要额外的约束解码或后处理校正。

约束解码在每一步采样时动态屏蔽不符合目标语法（如正则表达式、上下文无关文法）的token，从数学上排除非法输出。

结构化输出的常见实现方式包括提供函数调用接口、约束解码或后处理解析加校验。

约束解码在采样阶段就屏蔽不符合语法的 token，可靠性最高。

约束解码的代价是可能轻微损失生成质量，但对分类、打分等短输出任务几乎无影响。

约束解码是在推理阶段强制模型输出符合特定语法或格式的技术，它在每一步生成token时将不符合预定义文法（如JSON Schema）的token概率掩码为0。

约束解码只能保证输出格式合法，无法保证语义自洽；当 schema 允许字段自由组合而互斥关系仅写在自然语言提示中时，小模型可能生成可解析但业务上荒谬的 JSON。

部分API启用约束解码强制模型输出符合Schema的JSON，另一些仅将Schema作为提示，因此枚举能极大降低而非完全消除模型编造值的概率。

在提示工程中，可检查规则将风格拆解为可量化的约束，类似于大模型应用中的'约束解码'或结构化提示思路，把主观判断转化为可逐条核对的客观条件。

屏蔽（masking）是约束解码最常见的实现方式：将不符合当前约束的 token 概率置为负无穷或 0，然后重新归一化，使被禁 token 采样概率严格为零。

约束解码对于构建可靠 Agent 和 API 集成是重要的底层能力，可以将‘报错后重来’变为‘从一开始就不会错’。

约束解码在函数调用、结构化抽取、API参数生成等场景，可将格式合规率从“大部分时候正确”提升到接近100%。