[控场AI]
概念matched intervention

匹配干预

一种在激活空间中实施因果干预的实验设计,通过施加维度相同、范数相近但方向不同的扰动,分离扰动大小与方向/位置对模型行为的影响。

时间轴 (近 90 天)

11月18日

匹配干预实验表明,扰动答案子空间会显著改变模型预测,而扰动分歧表征(即使维度相同)几乎不改变预测,效果类似于随机子空间。

待验证50%
11月18日

匹配干预是对两组条件施加维度相同、范数相近的扰动,只改变扰动所在的方向,从而分离扰动大小与方向/位置的影响。

待验证50%

全部知识事实 (2)

来源文章