待验证50% 置信事实精确时间
模型编辑技术是双刃剑,能定向修复有害行为,也能定向植入有害行为。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证因果干预在可解释性研究中通常指通过激活编辑(如放大、抑制或替换特定特征激活)来观察模型输出的变化。73% 相似待验证参数编辑(model editing)是一类直接修改模型权重以注入或更新知识的技术,代表工作包括定位再编辑、秩一更新、以及基于闭式解的批量写入方法。72% 相似已验证提示注入是一种针对大语言模型的攻击手法,攻击者通过在模型输入数据中嵌入恶意指令劫持模型的正常行为69% 相似待验证定向编辑是指在神经元层面定位与某类行为相关的神经元,并对其激活或权重做有针对性的调整,从而在不重新训练整个模型的前提下改变特定行为。66% 相似待验证策略更新的参数化方式直接修改模型权重(如LoRA微调层在线更新),能力上限更高但引入灾难性遗忘风险;非参数化方式通过修改提示、检索内容或工具配置改变行为,可逆性强但表达能力有限66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1131356API
curl https://kongchang.com/api/v1/knowledge/claims/1131356MCP
get_claim(id=1131356)