待验证50% 置信事实精确时间
greedy decoding 本身是确定的，但它所依赖的 logits 计算不是确定的，因为批次形状变化会改变浮点运算的求和顺序。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
vLLM temperature=0 竟非确定：200条评测23条翻转
rss2026/10/18
涉及实体
相关事实
已验证受限解码（Constrained Decoding）在自回归生成的每个Token步骤上，根据有限状态机或上下文无关文法计算合法Token集合并重新归一化概率，从数学上保证输出符合目标schema69% 相似待验证logit-lens将各层隐藏状态投影到词汇表logit空间，观察若在该层强制解码模型会输出什么66% 相似已验证约束解码（Constrained Decoding）在模型生成每个token时动态屏蔽不符合目标语法或Schema的候选词，从解码层面保证输出结构合法。64% 相似待验证掩码扩散语言模型的解码过程中，token 一旦被提交到掩码位置通常是不可逆的，无法再被修正63% 相似待验证GBNF 通过在每个 Token 生成步骤对 logits 进行掩码过滤，强制模型只能生成符合预定义语法规则的 Token 序列63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060909API
curl https://kongchang.com/api/v1/knowledge/claims/1060909MCP
get_claim(id=1060909)