AI社会认知缺陷:为何模型总是过度惩罚

从识别对错到理解社会反应机制

过去几年,AI对齐工作主要集中在教会模型识别一阶社会规范——即什么行为可接受、什么不可接受。比如"不要偷窃"这类明确准则。AI对齐（AI Alignment）是指确保人工智能系统的行为和目标与人类价值观、意图保持一致的研究领域。近年来，RLHF（基于人类反馈的强化学习）等技术被广泛应用于训练大语言模型遵守社会规范，但这些方法本质上是一套行为规则的编码过程——在处理明确的伦理边界时效果显著，对于人类社会中大量存在的模糊地带和情境依赖性判断，则显得力不从心。

但真正的社会智能远不止于此。人类的社会认知能力,不仅在于识别行为是否违规,更在于能够预判谁会执行惩罚、以何种方式执行。当有人违反社会规则,围观者会公开羞辱他,还是选择沉默?违规者是否会因内疚而自我约束?这类"关于规范的规范",被称为元规范(metanorms),它决定了规则被打破时人们如何回应。

元规范概念最早由政治学家罗伯特·阿克塞尔罗德（Robert Axelrod）在1986年提出。他通过博弈论模型证明,仅靠一阶规范（"不要违规"）不足以维持社会合作秩序,还需要"惩罚不惩罚者"的二阶规范——如果某人看到违规行为却不加以制止,这种不作为本身也会受到社会压力。阿克塞尔罗德的研究表明,元规范机制是人类社会秩序自我维持的关键动力之一,这一理论后来被社会心理学和演化博弈论广泛引用。

arXiv上的最新研究首次系统评估了大语言模型在这种二阶社会推理上的表现。二阶社会推理在认知科学中与"心智理论"（Theory of Mind, ToM）密切相关——这是指个体理解他人拥有独立信念、意图和情感状态的能力,通常在人类儿童4-5岁左右发展成熟。而二阶心智理论则更进一步:不仅理解"他在想什么",还能推断"他认为她会怎么想"。这种递归式的社会认知能力是人类进行复杂社会互动（如谈判、外交、讽刺理解）的基础。近年来多项研究已开始评估大语言模型的心智理论能力,但大多聚焦于信念推理,而非本研究所关注的规范执行预测。研究者提出了创新评估框架,揭示当前AI在理解社会规则执行机制时的深层缺陷。

NormReact数据集:双维度评估AI的元规范推理

研究团队构建的评估框架,沿两个核心维度展开:

情绪评估维度

第一个维度关注情绪层面——当规范被违反时,违规者和旁观者会产生怎样的情绪反应。人类对违规行为的情绪并非非黑即白,它会受到诸多情境因素调节。

行为反应维度

第二个维度关注具体行为——面对违规,人们会采取何种行动。研究者设计了两类新的分类任务:

• 预测违规者的自我调节(self-regulation):违规者是否会因内疚、羞耻而约束行为
• 预测旁观者的他者调节(other-regulation):观察者是选择干预、谴责还是保持沉默

为支撑评估,团队发布了名为NormReact的多视角数据集,包含450个规范违反场景。这些场景经过人工标注,涵盖违规者性别、观察者社会亲密度等变量下的情绪与行为反应。NormReact的设计体现了社会心理学中"情境主义"（situationism）的研究传统——即人的行为不仅由内在品质决定,更受情境因素强烈影响。数据集中引入的"社会亲密度"变量（如陌生人、熟人、亲密朋友）对应社会心理学中邓巴数（Dunbar's number）所描述的人际关系圈层理论:人类对不同社会距离的人,在情感投入和行为反应上存在显著差异。450个场景虽然规模不算庞大,但通过精心控制变量,使其具备了较高的实验内部效度,能够有效检测模型在特定维度上的系统性偏差。

关键发现:AI描绘了一个更严酷的社会图景

研究结果颇具警示意义。在对六个主流大语言模型的测试中,研究者发现了一致趋势:当前LLM描绘出了一个比现实更加严酷的社会世界。

系统性高估惩罚倾向

最突出的问题是,模型倾向于过度预测负面制裁。在许多人类通常选择"不作为"的场景中——也就是选择容忍、克制或视而不见——模型却预测会出现谴责、羞辱甚至更严厉的惩罚。

这种偏差的技术成因可能是多方面的。首先,在RLHF训练过程中,人类标注者往往倾向于奖励模型给出"更安全"、"更保守"的回答,这种偏好被模型内化为对规范违反行为的过度警觉。其次,互联网训练数据中存在显著的"负面偏差"——社交媒体和新闻报道中,对违规行为的公开谴责和惩罚性回应远比沉默和宽容更容易被记录和传播,这种数据分布上的偏斜导致模型学到的"社会反应基线"本身就偏向严厉。此外,模型缺乏具身经验（embodied experience）,无法像人类那样通过亲身经历感知到大量"什么都没发生"的日常社会互动。

这意味着AI对人类社会规则执行的理解存在偏差:它高估了惩罚的普遍性,而低估了现实中大量存在的宽容、克制与关系性权衡。

社会距离越远判断越失准

另一个关键发现是,模型与人类判断的一致性会随社会距离增加而恶化。也就是说,当场景涉及的人物关系越疏远,AI预测就越偏离真实人类反应。

这一现象涉及社会学中一个经典理论——马克·格兰诺维特（Mark Granovetter）于1973年提出的"强关系"与"弱关系"理论。在人类社会中,亲密关系中的规范执行往往更加柔性:家人之间可能通过暗示而非公开谴责来处理违规,朋友之间会因顾及长期关系而选择宽容;而在弱关系或陌生人之间,规范执行的方式则更加正式和直接。人类在做出这些判断时,会自动调用大量关于关系成本、未来互动预期和情感纽带的隐性知识。这种"关系性校准"能力是人类社会智能中极为精细的组成部分,目前的大语言模型显然尚未充分习得。

AI应用领域的潜在风险

这些发现的意义远超学术层面。研究者指出,在那些对规范敏感的应用领域,这种偏差可能带来实质性风险。

冲突调解与政策模拟中的隐患

试想一个用于冲突调解的AI系统,如果它系统性地高估各方采取惩罚性反应的可能性,就可能加剧对立、放大冲突。同样,在政策模拟场景中,一个过度倾向惩罚、低估容忍的模型会给出扭曲的社会图景,从而误导决策。

真实世界中的规范执行充满灰色地带:人们会因对方是熟人而选择原谅,会因顾及关系而保持沉默,会在很多本可谴责的场合选择克制。这些细腻的社会智能,恰恰是当前AI所欠缺的。

从识别规范到理解执行

这项研究提示我们,AI对齐工作需要从单纯的一阶规范识别,向更深层的元规范推理拓展。一个真正具备社会智能的AI,不仅要知道"什么是错的",更要理解"人们实际上会如何回应错误"——包括那些选择不回应的时刻。

社会智能的真正考验

《Beyond Right and Wrong》这一标题本身就点明了问题核心:社会认知远不止于"对与错"的二元判断。当AI越来越多地进入涉及人类社会规则的敏感场景时,它能否准确理解人类社会规则执行的真实面貌,将直接影响其决策的合理性与安全性。

这篇研究和NormReact数据集的发布,为评估和改进AI的二阶社会推理能力提供了重要起点。它提醒整个行业:让AI变得"更严格"并不等于让它"更智能"——真正的社会智能,恰恰体现在懂得何时惩罚、何时宽容的微妙平衡之中。

核心要点