从岩石到规则：为AI对齐搭建的语义阶梯

一套关于语言、规范与AI价值对齐的宏大理论框架，正在LessWrong社区引发讨论。作者从「两个预测相同但模型不同的理性者如何对话」出发，构建了一座从名词、动词一路爬升到规则与契约的语义阶梯，并试图用它回答一个对齐领域的核心难题：你的「谋杀」在什么条件下是我「谋杀」的函数。

两种理性者如何交流：从可互操作语义出发

这套框架的起点是Wentworth的「可互操作语义」（interoperable semantics）：设想两个贝叶斯理性者，他们对世界有相同的预测，但内部世界模型可能完全不同。他们交换消息、试图沟通，而构成消息的符号可以按「绑定类型」（binding-types）分层排列，形成一座阶梯。

每一级阶梯由「要翻译它、必须先共同理解哪些更低层的类型」来定义。第n级由第n-1级上的可翻译性条件指定。作者称之为「Wentworth原生框架」——它承诺让两个不共享任何语言的Solomonoff归纳器仍能学会谈论酒吧里的饮品，尽管原论述在「如何谈论饮品种类」处戛然而止。

作者给自己设定了一条严苛的验收标准：如果某个概念无法用日常物件和情境兑现，那就不值得花葡萄糖去思考。"蓝杯子在桌上，我把它拿起来"——任何在这句话上含糊其辞的语义模型都只是诡辩。

Solomonoff归纳器是指以Solomonoff归纳推理为核心的通用预测器：它先验地给所有可计算程序赋予基于程序长度（通常用Kolmogorov复杂度或前缀码测度）的权重，再对已观测数据做加权混合预测。由于任何可计算假设都在其搜索空间中，Solomonoff归纳器在理论上拥有极高的归纳能力，是AIXI等通用智能理论的基座。两个Solomonoff归纳器若共享相同的训练观测，将对世界给出完全一致的概率预测，但各自实现该预测的内部程序可能毫无相似之处——正因如此，作者才需要额外引入可互操作语义层，来刻画它们如何从"预测相同"走到"能够彼此谈论同一件事"。

Gärdenfors的概念空间指的是认知科学家Peter Gärdenfors提出的「概念空间」理论：概念被表示为若干质量维度（如色相、明度、音高、温度）张成的几何空间中的区域或点。对象按其在各维度上的取值嵌入该空间，概念则对应其中的凸区域。作者借此把名词理解为「词指向物空间中的簇」、形容词理解为此类簇内部的坐标，正是把词汇语义还原为几何结构，从而使阶梯的更矮层可以建立在相对严格的数学对象上。

阶梯下半部：名词、动词与修饰语的涂抹现象

阶梯的下半部建立在Gärdenfors的概念空间和「词指向物空间中的簇」这一图景之上。物空间中的簇给出名词；簇内部的坐标给出形容词（"硬"、"蓝"、"美味"）。作者随后补充了几个关键操作：

• predicativize：把内部坐标（修饰语）铸造成一元谓词，"硬"变成"是硬的"
• saturate（Frege意义下）：填充函项的空位，构成完整句子
• arity-climb：从一元谓词扩展出介词与二元/多元关系动词
• temporalize：引入时间，配置空间丰富为路径空间，动词获得运动、转让、变换等语义

这套框架有一个可证伪的预言：凡是阶梯设置了桥接的地方，跨语言类型学上就应出现「涂抹」——一类不上不下的、卡在两级之间的不稳定词类。韩语的「描述动词」和Lojban的brivla恰好坐落在第一座桥上，而地点介词与路径介词的对立（以及Talmy的动词框架/卫星框架类型学）则坐落在第二座桥上。

Frege意义上的saturate出自弗雷格的函项-论元分析：一个不饱和的表达式（如谓词"是硬的"、关系词"给出"）带有必须被论元填补的空位，只有经饱和后才能形成具有真值的完整句子。作者借用这一操作，把形容词或关系词这类不完整意义「填满」为命题，从而在阶梯中衔接修饰语、谓词与句子。

Talmy的动词框架/卫星框架类型学由认知语言学家Leonard Talmy提出，用以区分语言如何编码运动事件：动词框架语言（如西班牙语、法语）把路径信息放进主动词（"entrar"意为走进），卫星框架语言（如英语、德语）则把路径放在动词外围的「卫星」成分中（如"go in"、"walk out"）。这一对立常被认为刻画了阶梯第二座桥上的不稳定地带，也是涂抹现象预期会集中出现的区域。

Lojban的brivla指Lojban语中的谓词词类：每个brivla自带若干论元槽（其「place structure」），需要按固定位置填充才能构成完整命题，且同一词可依填充情况在动词、形容词乃至名词功能间滑动。它因此既像动词又像形容词，正是作者所谓卡在两级之间的不稳定词类，也是该理论的现成语料证据之一。

上半部：规则与契约两级

真正的创新在阶梯上半部。从"从不"、"总是"这类古怪副词和"应该"这类古怪情态动词出发，作者提出新操作 constrain：筛在整组轨迹上的约束就是规则。规则不是对单个事件的性质检查——这正是它需要独立一级的原因。

新操作 deontic-lift 把"是P"变成"让一切皆P"，从描述跃向规定。作者借休谟断头台指出：无论堆多高的描述都建不出"应该"。而涂抹现象再次出现——泛指句与格言体（generics、gnomic mood）正是从副词爬向规则的桥，"狗会叫""教皇是天主教徒""柠檬是黄的"表面是描述，实则是边界重划的政治。

再往上，规则经由「约定」这一最混乱的涂抹（习俗、规范、传统、惯例等词类极度不稳定）爬向最后一级：pacts（契约）。作者给出刻画：设R为可表达规则的空间，S=2^R为所有规则集，A={A_i}为一组智能体。契约是S^n中的一个元素，所有智能体同意在他人遵守各自s_{-i}的前提下遵守自己的s_i。

契约空间有真实的结构：规则集的联合可满足性向下封闭，恰好构成一个抽象单纯复形K(R)。两个契约相容，当且仅当对同时是双方缔约方的每个智能体，其两个规则胞元共享一个余胞元。这里Lindenbaum引理悄然现身——一致的规则集总能扩展到完备一致的规则集。

休谟断头台（Hume's guillotine，亦称是-应当问题）由休谟在《人性论》中提出：仅从描述性前提（是关于「是」的陈述）无法逻辑地推出规范性结论（「应该」如何）。作者借此说明，无论把描述性阶梯堆得多高，deontic-lift 这一步都是真正的跳跃，也解释了为何价值问题不能归结为对名词级事实的翻译。

Lindenbaum引理是数理逻辑中的经典结果：任何一致的公式集都可扩展为一个极大一致集（从而在可数语言中给出完备理论）。作者在这里用它说明契约空间的几何性质——规则集的联合可满足性向下封闭构成抽象单纯复形K(R)，而一致规则集总能被扩展到完备一致集，正对应复形中胞元总能被包含在某个极大胞元之内。

抽象单纯复形是拓扑学中对有限几何单纯复形的组合抽象：它由顶点集合与一组满足「向下封闭」条件的子集（面或胞元）构成——若某子集在复形中，则其所有子集也在其中。只有当规则的联合可满足性满足同样的向下封闭性时，整个契约空间才具备复形结构；这使得契约相容性可以被表述为两个胞元在某公共余胞元上相交，从而用成熟的组合拓扑工具来研究规范系统的整体一致性。

阶梯引发的AI对齐思考

这套语义哲学为何与AI对齐相关？作者给出四条深层推论：

1. 价值学习与价值加载：在有实际利害的价值全是规则和契约——"谋杀不可越界"是轨迹集上的约束，"胁迫""同意"之争全是第三级的政治。把对齐当作名词级翻译问题，是"叠地下室却称之为塔"。目前缺的正是「规则的可翻译性定理」：自然潜在变量能告诉你你的"狗"何时是我"狗"的函数，但没人给出"谋杀"（轨迹集上的约束）对应的定理。
2. 本体错配的诊断：当强大优化器的本体与你的分歧，"在阶梯哪一级"是第一诊断问题。
3. 样本效率之谜：儿童通过极少曝光学会词汇（fast mapping、句法启动），因为新词带着预类型到达，直接砍掉数个数量级的假设空间。
4. 嵌入式能动性："我""这里""现在"是智能体在世界模型中的坐标，所有要交付给系统的价值指称都携带必须在被绑定之扩展内部绑定的索引词。

作者坦承这是一座故意半公开建造的塔：脚手架外露、砂浆未干、洞口标着自己的名字。他悬赏的开放问题包括：支撑整个框架的数学、自然规则条件、离散簇从何而来、adopt-不可约性、以及⌜·⌝下的可翻译性。这套理论接受一切但预言为零——只有能被打破的塔才值得一建。