[控场AI]
概念steering / 激活引导

引导

在推理时人为放大或抑制某个特征的激活值,观察模型输出是否朝预期方向改变,用于从相关性走向因果性验证

核心事实

时间轴 (近 90 天)

9月30日

研究核心发现:高效的引导(steering)方法往往以牺牲流畅性为代价来实现条件控制,方法越能强力操纵模型行为,生成文本的自然度和连贯性下降越明显

待验证50%
9月30日

过强的引导向量容易破坏模型内部维持语言连贯性的结构,导致输出出现重复、语法错误或语义跳跃等质量问题

已验证75%
9月30日

在对输出质量要求较高的场合,激进的引导方法可能得不偿失,需要根据应用场景在可控性与文本质量之间做出取舍

待验证50%

全部知识事实 (3)

来源文章