已验证75% 置信事实精确时间
激活引导是一种无需重新训练模型的推理时干预技术:在生成每个token时,向特定层的隐藏状态加上一个缩放后的方向向量(h ← h + α·v),α控制干预强度、v是目标方向。
3
来源数
75%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证激活引导是一种在推理时干预模型内部隐藏层表示的技术,代表性方法有对比激活添加(CAA)和推理时干预(ITI)。77% 相似待验证激活引导(activation steering)或表示工程(representation engineering)直接在模型的内部激活层上施加干预向量,在不修改模型权重的情况下改变生成方向76% 相似待验证在预训练阶段,模型的目标函数通常是最大化下一个token的对数似然,不包含拒绝回答的信号72% 相似待验证对齐训练会在模型内部形成'拒绝倾向',这种倾向并非通过外部提示词实现,而是被编码进模型权重之中,因此被称为'内部约束'。72% 相似已验证对抗性蒸馏攻击者通过大量系统化地向目标模型发起请求,采集输入-输出对,尤其是包含完整推理链的响应,用于训练自己的模型以复刻目标模型能力72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088144API
curl https://kongchang.com/api/v1/knowledge/claims/1088144MCP
get_claim(id=1088144)