Unverified50% confidenceFactExact time
Outlines 推理时将非法 token 对应的 logits 设为负无穷,使其经 softmax 后概率趋近于零,实现硬约束
1
Sources
50%
Confidence
Long-term
Relevance
7/22/2026
First Seen
Sources
Related Claims
UnverifiedOutlines 的约束逻辑作用于采样阶段的 logits 遮罩,不修改模型权重、不增加额外前向传播,运行时开销接近于零75% similarUnverified逻辑回归中的交叉熵损失如果直接对 log(0) 求值会产生负无穷,需要加入极小的 epsilon 值或使用 log-sum-exp 技巧74% similarUnverifiedFSM约束通过logit masking将不合法的下一个token概率强制置为零,但将复杂Schema编译为有限状态机会带来编译耗时和内存占用上升的代价62% similarUnverifiedFSM约束通过logit masking将当前状态下非法token的概率强制置为零,从而保证生成路径符合Schema语法规则61% similarUnverifiedRAG中Chunk大小通常在256至1024 token之间,过小导致语义不完整,过大则引入噪声并稀释相关性60% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/593679API
curl https://kongchang.com/api/v1/knowledge/claims/593679MCP
get_claim(id=593679)