概念language-subspace interventions
语言子空间干预
一种多语言模型可解释性与干预方法,通过在模型中间层激活中抑制与语言相关的成分(子空间投影),试图提升跨语言推理能力
时间轴 (近 90 天)
11月4日
一篇新论文通过MATH和MGSM两个数学推理数据集,在四个开源权重的大语言模型上检验了三个关键问题:语言子空间是否捕获翻译相关变异、投影子空间能否移除语言信息、以及能否在不损害回答语言的情况下提升准确率。
待验证50%
一种多语言模型可解释性与干预方法,通过在模型中间层激活中抑制与语言相关的成分(子空间投影),试图提升跨语言推理能力
一篇新论文通过MATH和MGSM两个数学推理数据集,在四个开源权重的大语言模型上检验了三个关键问题:语言子空间是否捕获翻译相关变异、投影子空间能否移除语言信息、以及能否在不损害回答语言的情况下提升准确率。