概念Decision Head / Jev 决策头
决策头
神经网络中接在主干模型之后的轻量输出模块,负责把主干提取的表示映射为特定任务所需的输出形式,计算只涉及一次前向传播,无需逐步生成token
时间轴 (近 90 天)
10月16日
决策头(decision head)是骨干模型之上训练的小型分类或打分模块,直接对上下文表示计算每个选项的分数,经 softmax 得到概率分布,输出选项而非逐 token 生成。
待验证50%
10月16日
响应的输出 token 数为零并不代表没有发生推理,因为模型已完成一次完整的编码与前向计算,只是输出结构化选项而非逐字生成。
待验证50%
10月16日
Qwen-Audio-Jev 采用'理解与决策分离'的设计,使主干模型无需重新训练,只需在输出端增加少量参数即可支持新的决策类型。
待验证50%
10月13日
决策头是模型主干网络之外的附加输出层,通常接收主干提取的特征向量,输出一个判断结果或分数。
待验证50%