概念Inference-Time Alignment
推理时对齐
在模型推理阶段通过提示或激活干预将模型输出引导向目标价值观的对齐技术,无需重新训练模型,部署灵活,但效果受对话轮次和引导方向影响。
时间轴 (近 90 天)
10月15日
推理时对齐(Inference-Time Alignment)是一类无需重新训练模型参数、仅在生成阶段施加干预的技术统称,包括提示工程、激活引导、解码约束等手段。
待验证50%
10月15日
一些在对话初期看起来成功的引导,在几轮之后会逐渐衰减甚至发生反转。
待验证50%