概念inference-time intervention / 推理时控制
推理时干预
一种在模型推理阶段直接修改特定层激活值的可控生成技术,通过对比性样本对提取目标方向并在前向传播中施加干预,无需更新模型参数即可引导模型行为
时间轴 (近 90 天)
10月12日
Prompting 在推理时提供指令和示例,成本最低、迭代最快,适合解决表达风格、格式约束、任务边界说明这类问题,但不改变模型权重,因此无法引入模型不知道的私有知识,也无法保证实时性。
待验证50%
9月11日
某些推理时干预方法对答案格式和语言覆盖广度较为敏感,在特定格式上有效但换到其他格式可能失效
待验证50%