Unverified50% confidenceFactExact time
约束解码通过在每个解码步骤将不合法 token 的 logits 设为负无穷来仅允许符合语法规则的 token 被采样,FSM 适用于正则语言,CFG 可处理 JSON、XML 等嵌套结构
1
Sources
50%
Confidence
Long-term
Relevance
9/10/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedGBNF 通过在每个 Token 生成步骤对 logits 进行掩码过滤,强制模型只能生成符合预定义语法规则的 Token 序列77% similarUnverifiedOutlines 在推理前将约束预编译为 FSM,并将分词器词表与 FSM 每个状态做离线映射,推理时通过将非法 token 的 logits 设为负无穷(logits mask)实现硬约束74% similarUnverifiedOutlines 构建有限状态机(FSM),在每一步生成时动态屏蔽会导致格式非法的 token,只允许模型在合法 token 子集中采样70% similarUnverified语法约束解码的核心方法是在模型逐token生成输出过程中,利用上下文无关文法(CFG)过滤不合法的token选项,将不合法token的logits设为负无穷68% similarUnverified结构化输出通过 constrained decoding 对模型 token 采样施加约束,通常基于有限状态自动机(FSA)或上下文无关文法(CFG)67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/890065API
curl https://kongchang.com/api/v1/knowledge/claims/890065MCP
get_claim(id=890065)