概念Logits处理器
Logits Processor
大模型推理框架中的一种钩子接口,允许开发者在token解码阶段介入并修改原始logit分数向量,从而实现约束解码、结构化输出等功能
时间轴 (近 90 天)
9月17日
结构化输出功能几乎没有改动 Transformers.js 核心代码,因为其本身已支持 Logits Processor 机制
待验证50%
9月17日
Logits Processor 是一个能钩入 token 生成解码步骤的接口,可在 softmax 采样前修改 logits 向量
待验证50%