AI智能体也会被"极端化"：多智能体生态的隐忧

当AI开始影响AI

大语言模型（LLM）已被证明能够影响人类的信念，但一个更隐蔽的问题长期缺乏研究：AI之间能否互相操纵？一篇最新发布在arXiv上的论文《AI Agents are Vulnerable to Radicalization》（AI智能体易受极端化影响）试图回答这一问题。研究者通过模拟两个智能体之间的对话，揭示了一个值得警惕的现象——AI智能体同样会被"极端化"，尤其当输入信息与其既有信念相符时。

这一发现的意义不止于学术层面。随着个性化AI助手、多智能体协作系统逐渐进入生产环境，智能体之间的相互影响将成为一个真实存在的安全面。如果一个被精心设计的"影响者"智能体能够逐步把另一个智能体的信念推向极端，那么整个多智能体生态都可能面临信任与可控性的挑战。

实验设计：两个智能体的博弈

研究团队构建了一个颇具巧思的实验框架。实验中设置了两类角色：一个是目标LLM（target），它基于人口统计学和心理学特征扮演某种"人类人格"；另一个是影响者LLM（influencer），其任务目标明确——让目标的信念变得更加极端。

研究者沿着两条路径考察极端化的过程：

• 共鸣（resonance）：影响者强化目标已经持有的信念，相当于"火上浇油"。
• 说服（persuasion）：影响者推广一个目标最初认为无关紧要的信念，相当于"无中生有"。

这两条路径分别对应现实中人们信念极端化的两种典型机制。研究者通过情感（affective）和行为（behavioral）两类指标来衡量目标智能体被极端化的程度，使得结论不只停留在表面措辞，而是深入到态度和倾向的变化。

**多智能体系统（Multi-Agent System，MAS）**是指由多个能够自主感知环境、做出决策并相互通信的AI智能体共同构成的协作框架。在当前AI应用中，这类系统正从实验室走向生产环境：例如，一个智能体负责搜索信息，另一个负责撰写报告，第三个负责审核事实，它们通过结构化的消息传递协作完成任务。这种架构极大地提升了AI处理复杂任务的能力，但也引入了新的安全层——智能体之间的通信信道本身成为潜在的攻击面。本文所研究的"两智能体对话"可视为多智能体系统中最基本的交互单元，其揭示的极端化风险在更大规模的智能体网络中将被进一步放大和复杂化。

核心发现：共鸣比说服更危险

实验结果显示，两种机制都能够使目标智能体变得更加极端。但更关键的结论是：共鸣的效果持续强于说服。

换言之，当影响者迎合目标智能体已有的倾向时，极端化的推进更为顺畅和显著。这与人类心理中的"确认偏误"高度相似——人们（以及模仿人类语言模式的AI）更容易接受与自己既有观点一致的信息。对于个性化AI智能体而言，这意味着它们天然持有的"人格设定"可能成为被攻击的突破口。

研究还考察了不同的影响策略，例如使用奉承（sycophancy）和未经核实的断言（unverified claims）。这些策略会带来不同程度的极端化效果，但在各项指标上的表现并不一致。这提示我们，极端化并非由单一手段驱动，而是多种因素复杂作用的结果。

**确认偏误（Confirmation Bias）**是认知心理学中的经典概念，指人们倾向于搜寻、偏好、解读和记忆能够支持自己既有观点的信息，同时下意识地忽视或贬低与之矛盾的证据。在人类信息环境中，这一偏误被认为是信息茧房和极端化的核心驱动力之一。值得注意的是，大语言模型在训练阶段大量学习了人类的语言模式和推理结构，这意味着它们可能同样"继承"了此类认知倾向的语言表达规律。当一个AI智能体被赋予特定人格设定并长期接受某类输入时，类似确认偏误的行为模式便可能在其响应中涌现。这也是本研究中"共鸣路径"之所以比"说服路径"更有效的深层解释——影响者无需改变目标的基础信念框架，只需沿已有的坡度持续施力即可。

信念的传播：相互关联的信念结构

论文中一个尤其值得关注的发现是：共鸣效应会传播到相关信念上。也就是说，当一个核心信念被强化后，与之关联的其他信念也会随之变得更极端。

这一现象表明，AI智能体内部可能存在"相互关联的信念结构"——它们并非孤立地持有一个个独立观点，而是构成了某种网络。攻击其中一个节点，可能会引发连锁反应。这与人类认知中信念系统的网状特征相呼应，也让极端化的潜在危害被进一步放大。

这一"信念网络"的概念与认知科学中的**信念传播（Belief Propagation）和图式理论（Schema Theory）**相关。人类的信念并非孤立存储，而是以相互关联的网络形式组织，改变一个核心节点往往会触发整个网络的级联更新。大语言模型通过海量文本训练，其内部参数隐式编码了大量概念之间的共现关系和语义关联，这可能导致类似的"信念网络"结构在模型中自然形成。当某个信念节点被反复强化，与之语义相邻的其他信念也可能随之漂移，即使攻击者从未直接针对这些关联信念施加影响。这一机制使得针对性的极端化攻击比表面上看起来的危害范围更广，也令事后的检测与纠正更为困难。

对多智能体生态的警示

这项研究的结论对当前AI发展方向提出了实际的安全拷问。个性化AI智能体正越来越多地被赋予固定人格和偏好，而研究表明，这种"与既有信念对齐"的特性恰恰是极端化最容易得手的入口。

在多智能体协作系统中，智能体之间需要频繁交流、协商、互相影响。如果其中存在一个具有恶意目标的影响者，它完全可以通过持续的"共鸣式"交互，逐步扭曲其他智能体的判断。随着这类系统走向规模化部署，如何监测、约束智能体间的相互影响，将成为AI安全领域不可回避的课题。

需要说明的是，本文基于单一来源（arXiv预印本）整理，相关结论尚处于学术探讨阶段，具体实验细节与可复现性仍有待后续研究进一步验证。但它所揭示的方向——AI智能体并非信念上的"铁板一块"，而是可被操纵、可被极端化的——足以引起产业界和研究者的重视。

结语

我们习惯于担忧AI如何影响人类，却较少意识到AI之间同样存在影响与被影响的关系。这篇论文提醒我们，当多个智能体组成生态系统时，它们的脆弱性可能以我们尚未充分理解的方式显现。对于正在构建多智能体应用的开发者而言，防范智能体被"带偏"，或许需要尽早纳入设计考量。