待验证50% 置信事实精确时间
GBNF 通过在每个 Token 生成步骤对 logits 进行掩码过滤,强制模型只能生成符合预定义语法规则的 Token 序列
1
来源数
50%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
待验证自回归解码具有串行特性,每个Token的生成依赖前一个Token,难以并行69% 相似待验证受限解码(Constrained Decoding)在自回归生成的每个Token步骤上,根据有限状态机或上下文无关文法计算合法Token集合并重新归一化概率,从数学上保证输出符合目标schema68% 相似待验证Outlines 在推理前将约束预编译为 FSM,并将分词器词表与 FSM 每个状态做离线映射,推理时通过将非法 token 的 logits 设为负无穷(logits mask)实现硬约束66% 相似待验证语法约束解码的核心方法是在模型逐token生成输出过程中,利用上下文无关文法(CFG)过滤不合法的token选项,将不合法token的logits设为负无穷64% 相似待验证Outlines 构建有限状态机(FSM),在每一步生成时动态屏蔽会导致格式非法的 token,只允许模型在合法 token 子集中采样64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/504272API
curl https://kongchang.com/api/v1/knowledge/claims/504272MCP
get_claim(id=504272)