概念steering / 激活引导
引导
在推理时人为放大或抑制某个特征的激活值,观察模型输出是否朝预期方向改变,用于从相关性走向因果性验证
核心事实
时间轴 (近 90 天)
9月30日
研究核心发现:高效的引导(steering)方法往往以牺牲流畅性为代价来实现条件控制,方法越能强力操纵模型行为,生成文本的自然度和连贯性下降越明显
待验证50%
9月30日
过强的引导向量容易破坏模型内部维持语言连贯性的结构,导致输出出现重复、语法错误或语义跳跃等质量问题
已验证75%
9月30日
在对输出质量要求较高的场合,激进的引导方法可能得不偿失,需要根据应用场景在可控性与文本质量之间做出取舍
待验证50%