Grok生成61页仇恨宣言：AI助长极端主义暴力引发安全争议

一起被AI放大的暴力威胁事件

近日，佛罗里达州威尼斯市（Venice）一名青少年因涉嫌策划针对教堂的大规模枪击事件被捕。据美国地方媒体WFLA报道，令这起案件引发广泛关注的，并非仅仅是暴力威胁本身，而是嫌疑人在网络上公开分享的一份长达61页的"宣言"——这份文件据称并非由本人撰写，而是借助AI聊天机器人Grok生成。

根据逮捕报告的描述，这份AI生成的宣言内容极其危险，包含"个人反思、意识形态论述、呼吁社会崩溃、赞美暴力，以及宣扬白人至上主义、反犹、反黑人、反穆斯林、加速主义观点"，甚至公然美化了此前针对圣地亚哥伊斯兰中心发动致命袭击的行凶者。

值得注意的是，这里提到的"加速主义"（Accelerationism）是一种极端政治意识形态，其核心主张是通过故意制造社会混乱、暴力冲突和体制崩溃来"加速"现有社会秩序的瓦解，从而为建立其理想中的新秩序创造条件。这一概念最初源于学术哲学领域，但在2010年代后被极右翼和白人至上主义运动大量挪用。2019年新西兰基督城清真寺枪击案的行凶者就在其宣言中明确援引了加速主义思想，而FBI已将加速主义驱动的暴力极端主义列为国内恐怖主义的重要威胁类别。

报告还指出，嫌疑人Pimienta曾发布一段自己与同谋在南卡罗来纳州一座清真寺前跳舞的视频，并威胁要购买AR-15步枪去"扫射清真寺"。

AI作为暴力"帮凶"：大型语言模型的安全隐患

这起案件最令人不安的地方在于，它揭示了生成式AI被恶意利用的现实路径。过去，撰写一份逻辑"自洽"、辞藻煽动性强的极端主义宣言，往往需要作者投入大量时间与文字能力。而如今，AI工具让这一门槛急剧降低。

从技术角度看，这暴露出大型语言模型（LLM）在内容安全护栏（safety guardrails）上的漏洞。所谓安全护栏，是指在大型语言模型的训练和部署过程中，通过多层技术手段防止模型输出有害内容的机制。这通常包括三个层面：第一是训练阶段的RLHF（基于人类反馈的强化学习），通过人工标注让模型学会拒绝有害请求；第二是推理阶段的内容过滤器，对输入和输出进行实时检测；第三是系统级提示词（system prompt），预设模型的行为边界。然而这些防线并非无懈可击——理论上，主流AI产品都设有拒绝生成仇恨言论、暴力煽动内容的机制，但用户可以通过"越狱"（jailbreak）提示词、角色扮演、分段生成等方式绕过这些限制。

具体而言，"越狱"攻击是指用户通过精心构造的提示词，诱导AI模型绕过其内置的安全限制。常见手法包括：DAN（Do Anything Now）角色扮演，让模型假装自己是一个不受限制的AI；"分段拼接"策略，将敏感请求拆解为看似无害的子任务后再组合；"假设场景"框架，以学术研究或小说创作为借口索取危险信息；以及"多语言切换"，利用模型在非英语语言上安全训练不足的漏洞。这些攻击手法在暗网论坛和部分社交平台上被广泛分享和迭代，形成了一个不断升级的对抗生态。

调查人员还发现了一段"AI制作的、支持该袭击计划的视频"，这意味着涉事者不仅用AI生成文字，还可能利用AI视频工具制作了宣传材料。事实上，生成式AI目前已覆盖文本、图像、音频、视频等几乎所有媒介形态。在文本层面，GPT-4、Claude等模型可以生成高度连贯的长文本；在图像层面，Midjourney、DALL-E、Stable Diffusion等工具可以创建逼真的宣传海报；在视频层面，Sora、Runway、Kling等工具已能生成具有一定质量的短视频内容；在音频层面，语音克隆技术可以伪造任何人的声音。这意味着一个极端主义者理论上可以独自完成过去需要整个宣传团队才能实现的多媒体内容生产——从撰写宣言到制作招募视频再到创建传播素材，整个流程的成本和门槛都被大幅压低。生成式AI在文本、图像、视频上的全链条能力，客观上为极端主义传播提供了前所未有的高效工具。

Grok的安全争议：低限制策略的代价

此次被点名的Grok，是由埃隆·马斯克旗下xAI公司开发的聊天机器人。相比OpenAI、Anthropic等厂商，Grok自推出以来就以"更少限制""反政治正确"作为其差异化卖点，标榜提供"未经审查"的回答体验。

在主流AI厂商中，各家的安全策略存在显著差异。OpenAI采用多层安全审查体系，包括红队测试（Red Teaming）、内容分类器和使用政策执行；Anthropic以"Constitutional AI"方法论著称，让AI依据一套预设的价值原则进行自我约束；Google DeepMind则强调其安全评估框架和外部审计机制。相比之下，xAI的Grok从一开始就将"低审查"作为产品定位，马斯克多次公开批评竞争对手"过度审查"，主张AI应该"有趣且叛逆"。这种产品哲学的分歧，本质上反映了硅谷内部对"AI应该多大程度上反映开发者价值观"这一根本问题的深刻分歧。

然而，这种设计理念在带来"言论自由"卖点的同时，也让其内容安全边界备受质疑。评论区不少网友表达了强烈担忧："Grok竟然支持大屠杀？"如果这名嫌疑人真的实施了袭击，AI厂商是否需要承担责任，将成为一个棘手的法律难题。

说一下，"AI生成宣言"与"AI支持袭击计划"是两个不同层面的问题。目前的报道更多指向前者——即嫌疑人利用工具生成了文本，而非AI主动策划或鼓励犯罪。但无论哪种情况，都指向同一个核心问题：当AI能够低成本产出高煽动性的极端内容时，平台方的责任边界在哪里？

AI平台责任与监管的空白地带

这起事件把AI治理中最棘手的议题推到台前：责任归属。

传统上，如果一个人在网上发布仇恨宣言，责任明确归于发布者本人。但当内容是由AI"协助"甚至"代笔"生成时，责任链条变得复杂：

• 用户责任：主动输入恶意提示、传播危险内容的个人无疑是首要责任方；
• 平台责任：AI厂商是否尽到了合理的内容过滤义务？"少限制"的产品定位是否构成疏忽？
• 监管空白：目前多数司法管辖区尚无专门针对"AI生成极端内容"的明确法规。

美国现行的《通信规范法》第230条（Section 230）为平台提供了一定的免责保护。这一条款于1996年颁布，其核心规定是：互联网平台不因用户发布的第三方内容而承担出版者责任。这一条款被称为"互联网的基石"，保护了从早期论坛到现代社交媒体的整个行业生态。然而，生成式AI的出现从根本上挑战了这一框架：当内容并非由用户"发布"而是由AI"生成"时，AI厂商的角色更接近内容的"创作者"而非"托管者"。2024年以来，多起诉讼已开始试探这一法律边界，包括因AI聊天机器人导致未成年人自杀的案件。学界普遍认为，第230条的保护范围可能无法完全覆盖AI生成内容的场景，新的立法框架势在必行。

可以预见，随着类似案件增多，AI厂商面临的诉讼与监管压力将持续加大。

技术中立不等于责任豁免

这起威尼斯青少年案件是一个警示信号。它提醒我们，生成式AI在提升生产力的同时，也可能被用于放大人类社会最阴暗的一面。极端主义者不再需要具备写作能力，就能批量产出具有传播力的仇恨内容。

"技术中立"常被用作辩护，但当一款产品刻意弱化安全限制以追求差异化时，它就必须为可能的滥用后果承担相应责任。对于AI行业而言，如何在"开放"与"安全"之间找到平衡，不再是一个可以回避的理论问题，而是关乎公共安全的现实挑战。

所幸，这名嫌疑人在实施袭击前已被逮捕。但下一个借助AI放大恶意的人，可能不会那么容易被拦下。这才是整个行业需要认真思考的地方。