[控场AI]
论文

MEMIT

一种支持批量知识编辑的大语言模型参数修改方法,通过对多层权重进行联合更新实现规模化知识注入

时间轴 (近 90 天)

10月9日

知识编辑方法主要分为三类:直接参数修改(如ROME、MEMIT)、外挂记忆或检索增强(RAG)、微调

待验证50%
10月9日

直接参数修改方法通过定位与目标事实相关的权重并进行矩阵更新来实现编辑,速度快但规模化后容易破坏模型的通用能力

待验证50%
9月17日

现有知识编辑方法如ROME、MEMIT通常假设事实知识集中存储在某几层的MLP权重中,并针对性修改这些权重

待验证50%
8月28日

ROME和MEMIT是精准修改模型知识的知识编辑方法

待验证50%

全部知识事实 (4)

来源文章