待验证50% 置信事实精确时间
修改采样时的 logits 即在 softmax 之前对向量逐维加减偏置值，加正值提升某类 token 被选中的概率，减负值则抑制，不改变模型权重，只在推理阶段介入。
1
来源数
50%
置信度
长期有效
时效性
2026/10/24
首次发现
来源
不用微调，实时Jam：预训练音乐Transformer的采样控制术
redditr/MachineLearning2026/10/24
涉及实体
相关事实
待验证logit bias的偏置值选择没有万能公式，建议从小幅调整开始，用有代表性的提示词测试效果并观察副作用，再逐步调整。79% 相似待验证温度是给 logits 除以一个系数后再做 softmax，改变整个分布的陡峭程度；top-p 是先按概率从高到低累加，截断到累积概率达到 p 为止，把长尾之外的低概率 token 从候选集中剔除，再在剩余集合内重新归一化并采样。72% 相似待验证Outlines 推理时将非法 token 对应的 logits 设为负无穷，使其经 softmax 后概率趋近于零，实现硬约束71% 相似待验证Outlines 的约束逻辑作用于采样阶段的 logits 遮罩，不修改模型权重、不增加额外前向传播，运行时开销接近于零69% 相似待验证logprob衡量的是生成该token有多顺，并不等同于该事实有多正确，模型完全可能流畅而高概率地生成一个错误陈述，因此它仍是相对信号而非绝对保证。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1093170API
curl https://kongchang.com/api/v1/knowledge/claims/1093170MCP
get_claim(id=1093170)