[控场AI]
概念perturbation inconsistency

扰动不一致性

通过向输入施加语义保持的轻微扰动并观察模型输出稳定性来衡量不确定性的方法,反映模型在输入空间邻域内的行为稳定性。

时间轴 (近 90 天)

11月17日

扰动不一致性、语义熵和解长度与总体难度的关联强度显著高于词元级不确定性。

待验证50%
11月17日

即使仅分析模型正确回答的问题,扰动不一致性、语义熵和解长度与总体难度的关联依然显著。

待验证50%
11月17日

扰动不一致性通过向输入施加轻微、语义保持的扰动(如改写、增删无关词、调整语序),观察模型输出是否稳定来衡量不确定性。

待验证50%
11月17日

扰动不一致性与模型鲁棒性研究中的发现相吻合。

待验证50%

全部知识事实 (4)

来源文章