[控场AI]
概念inference-time intervention / 推理时控制

推理时干预

一种在模型推理阶段直接修改特定层激活值的可控生成技术,通过对比性样本对提取目标方向并在前向传播中施加干预,无需更新模型参数即可引导模型行为

时间轴 (近 90 天)

10月12日

Prompting 在推理时提供指令和示例,成本最低、迭代最快,适合解决表达风格、格式约束、任务边界说明这类问题,但不改变模型权重,因此无法引入模型不知道的私有知识,也无法保证实时性。

待验证50%
9月11日

某些推理时干预方法对答案格式和语言覆盖广度较为敏感,在特定格式上有效但换到其他格式可能失效

待验证50%

全部知识事实 (2)

来源文章