大模型隐喻表征的几何结构：可探测与可调控

隐喻不只是修辞：它是认知的骨架

隐喻是人类认知的核心机制——我们用“时间就是金钱”来理解抽象概念，用“温度”描述人际关系的亲疏。那么，大语言模型（LLM）在生成“冰冷的眼神”或“锋利的批评”时，内部究竟发生了什么？它真的“理解”了隐喻，还是仅仅在模仿统计模式？

一篇题为《The Geometry of Metaphor: Probing and Steering Metaphor Representations in Large Language Models》的研究，用机制可解释性（mechanistic interpretability）工具，试图从几何角度回答这个问题。研究者不仅定位了LLM中与隐喻相关的因果子空间，还证明可以通过干预这些子空间来控制模型输出的隐喻性。

研究方法：寻找隐喻的“因果子空间”

研究团队没有停留在观察层面，而是采用了干预实验。他们在多种架构和规模的LLM上（包括不同参数量与注意力机制的模型）训练线性探针，用以区分隐喻性表达与非隐喻性表达。关键在于，这些探针不是简单的相关性检测器——研究者进一步验证了这些方向是否具有因果效力：沿着探针方向激活或抑制神经元，会系统性地改变模型对隐喻句子的分类判断。

这种方法论的核心在于将隐喻视为一种可线性分离的表征方向。如果隐喻在表征空间中是一个方向，那么“转向”这个方向就应该能调节模型的行为。

跨词性与跨任务的有效性

实验覆盖了不同词性的隐喻（名词性、动词性、形容词性），分类任务上的干预均产生了显著效果。这意味着隐喻表征不是绑定在特定词汇类别上的，而可能是一种更通用的语义调制机制。

线性探针（linear probe）是机制可解释性研究中的常用工具：在模型某一层的激活向量上训练一个简单的线性分类器（如逻辑回归），用以判断某个概念（如“隐喻性”）是否在该层的表征中线性可分。探针本身只揭示相关性——某方向与概念共现，不代表模型真的依赖该方向做决策。因此，研究者会进一步做因果干预：将激活值沿探针方向人为增减，观察模型输出是否随之改变，以此验证该方向的因果效力。

从分类到生成：隐喻性可以被“调音量”

更引人注目的结果是生成任务上的成功。研究者通过激活向量引导生成过程，使模型输出的隐喻密度发生可测量的变化——相当于给模型的“隐喻开关”装了一个旋钮。

这项能力的潜在应用包括：

• 创意写作辅助：需要诗意表达时提升隐喻性，需要技术文档时降低隐喻性。
• 教育内容生成：根据学习者年龄调节解释的比喻密度。
• 可解释性研究：通过观察隐喻表征如何与其他语义维度交互，理解LLM的抽象概念组织方式。

这也引出一个更深层的问题：如果隐喻只是一个可调控的方向，那么模型对隐喻的“理解”是否本质上是一种几何运算，而非人类意义上的概念映射？

激活引导（activation steering）是一种无需重新训练模型的推理时干预技术：在生成每个 token 时，向特定层的隐藏状态加上一个缩放后的方向向量（如 h ← h + α·v），其中 α 控制干预强度、v 是目标方向。α 为正时增强该特征，为负时抑制。与微调不同，激活引导即时生效、可逐句调节强度，且不改变模型权重，因此特别适合需要动态控制文风的场景。

几何视角下的语言模型：意义作为方向

这项工作延续了近年来机制可解释性的一条主线：将语义特征理解为表征空间中的方向向量。从“诚实方向”到“情感方向”，再到如今的“隐喻方向”，LLM的内部表征似乎呈现出一种线性可分解的结构。

但隐喻的特殊之处在于，它天然涉及两个概念域之间的映射。一个线性的隐喻方向如何编码这种跨域映射？论文的因果子空间方法提供了初步线索，但尚未完全解释隐喻的生成机制。此外，不同架构和规模的模型都表现出可探测的隐喻子空间，这暗示该表征可能是训练过程中自然涌现的普遍特征。

线性表征假说（linear representation hypothesis）认为，大模型内部的高层语义特征大致以线性方向的形式编码，概念之间的差异对应向量差，概念强度对应沿该方向的投影大小。这一假说为“意义作为方向”提供了理论支撑，也解释了为何简单的向量加减能实现概念操控。不过它主要描述的是特征的可分离性，而非特征之间的组合逻辑——跨概念域的映射如何由多个方向协同实现，仍是该假说尚未覆盖的部分。

局限与未来方向

目前的可控性实验主要在英文语境下进行，跨语言的隐喻表征是否共享同一几何结构仍是开放问题。此外，隐喻的文化特异性——比如中文里“吃醋”与英文“green-eyed”的差异——可能意味着模型内部存在多个隐喻子空间，而非单一方向。

这项研究最实用的启示或许是：我们不必把LLM的隐喻能力视为黑箱。通过几何工具，我们能够定位、测量并调节它。对于需要精细控制文风的AI应用开发者来说，这提供了一条超越提示词工程的内部干预路径。

论文信息：The Geometry of Metaphor: Probing and Steering Metaphor Representations in Large Language Models. 来源：arXiv (rss).