概念representation engineering
表示工程
大语言模型研究领域的一个方向，研究模型内部高层语义概念（如情绪、道德倾向）在激活空间中的线性表示结构，并通过识别和操控这些方向向量来影响模型行为
时间轴 (近 90 天)
10月7日
本文结果与Zou et al. 2023的RepE框架寻找跨上下文稳定控制向量的假设形成张力
待验证50%
9月30日
激活引导（activation steering）或表示工程（representation engineering）直接在模型的内部激活层上施加干预向量，在不修改模型权重的情况下改变生成方向
待验证50%
9月18日
abliteration的理论基础来自表示工程领域，该领域发现模型内部某些高层语义概念可以在激活空间中被识别为特定的线性方向
待验证50%