OpenAI打击AI假冒记者行动：拆解两起AI驱动的影响力操作

OpenAI出手拆解AI影响力操作

OpenAI近期披露，公司已经成功瓦解了两起借助AI能力的影响力行动（influence operations）。这两起行动的共同特征是采用了"假冒门面"（false-front）的手法——通过伪装成记者的虚假身份，以及一个看似独立的智库组织，来传播带有地缘政治倾向的信息。

这类操作的本质，是利用生成式AI工具大规模制造看似可信的内容和身份，从而在公共舆论场中夹带特定的政治叙事。随着大语言模型的能力不断提升，内容生成的门槛和成本大幅下降，这也让有组织的信息操纵变得更加隐蔽和高效。

什么是"假冒门面"行动

所谓"false front"，指的是操作者伪装出一个具有公信力的外壳，掩盖真实的发起方和意图。在OpenAI披露的案例中，有两种典型伪装：

伪造的记者身份

行动方塑造出虚假的"记者"人设，用这些身份发布报道或评论。由于记者身份天然带有一定的权威感和客观性暗示，公众更容易对其内容降低戒心。借助AI，操作者可以批量生成文章、评论甚至完整的人物背景，使虚假身份显得更加真实。

伪装的智库组织

另一种手法是搭建一个看似独立、专业的智库（think tank），以研究和政策分析的名义输出地缘政治信息。智库通常被视为中立的政策研究机构，这种外壳能够为带有立场的内容披上客观分析的外衣，进而影响政策讨论和公众认知。

"假冒门面"（false front）并非AI时代的新发明，其前身可追溯至冷战期间的信息战术，苏联KGB曾系统性地在西方媒体中植入虚假新闻来源（即"积极措施"，active measures）。进入互联网时代，这一手法演变为"内容农场"和"协调性不真实行为"（Coordinated Inauthentic Behavior，CIB）——Facebook母公司Meta最早系统定义了这一术语，指行为者隐瞒真实身份和协调本质，通过制造虚假的社会共识来操纵公众舆论。生成式AI的出现使得构建这类虚假外壳的门槛大幅降低：一个逼真的记者档案页、数十篇风格统一的文章、与读者的互动评论，过去需要一支团队数周完成，现在数小时内即可批量生产。

AI如何被滥用于信息操纵

生成式AI在这类行动中扮演的角色，主要体现在内容生产的规模化与拟真化。过去需要大量人力撰写的文稿、评论、社交媒体帖子，如今可以由模型快速产出；而身份伪造、背景故事构建等环节，也能借助AI实现更高的可信度。

这意味着影响力行动的"产能"被显著放大，同时单位成本下降。对于平台和内容审核方而言，识别这类由AI辅助生成的虚假内容和身份，难度随之上升。OpenAI主动披露并拆解此类行动，本身也是在建立对抗滥用的能力闭环——通过监测自家模型的异常使用模式，定位并切断被恶意利用的账户与行为链条。

OpenAI等大模型提供商识别此类滥用行为，主要依赖对API调用模式的异常检测。典型信号包括：短时间内大量生成高度相似但措辞稍异的政治类文本、同一账户批量创建不同"人物"的个人简介、以及围绕特定地缘政治议题的集中查询。此外，OpenAI在其使用政策中明确禁止将模型用于"影响力行动"，包括伪造人物身份、虚假归因及操控舆论等场景，一旦核实违规即终止账户访问权限。这种"检测—披露—切断"的内部闭环，是目前模型提供商侧最直接的防御机制，但其效果高度依赖于对新型攻击手法的持续跟踪更新。

对AI治理的启示

OpenAI的这次行动反映出一个日益突出的现实：AI能力的扩散既带来生产力红利，也为信息操纵提供了新工具。平台方的主动监测与披露，是遏制滥用的重要一环，但仅靠单一企业的努力远远不够。

要有效应对AI驱动的影响力操作，需要模型提供方、社交平台、新闻机构以及监管方之间的协同——包括对异常使用模式的检测、对虚假身份的识别机制，以及对公众媒介素养的提升。随着这类手法不断演化，透明的披露和持续的对抗能力将变得愈发关键。

结语

假冒记者与伪装智库，是信息操纵的老套路，但AI让它们重新变得危险。OpenAI此次拆解两起行动，既是对自家平台滥用的治理，也为行业敲响警钟：在生成式AI普及的时代，辨别信息真伪的挑战才刚刚开始。