AI垃圾论文泛滥：arXiv单日投稿近600篇背后的学术危机

一场悄然发生的学术洪水

近日，一则在Hacker News上引发热议的观察揭示了一个值得警惕的现象：某学术领域在arXiv上单日投稿量接近600篇，其中大部分被质疑为"AI slop"——也就是AI生成的低质量内容。这一话题虽然讨论规模不大，却直指当下学术出版生态的一个深层隐患：生成式AI正在以前所未有的速度稀释学术论文的整体质量。

arXiv作为全球最重要的预印本平台之一，长期以来是物理、数学、计算机科学等领域研究者分享成果的首选阵地。这个由物理学家Paul Ginsparg于1991年在洛斯阿拉莫斯国家实验室创建的平台，最初只服务于高能物理领域的预印本分享，如今已发展为覆盖数学、计算机科学、定量生物学、统计学等多个学科的庞大知识库，托管论文总量超过240万篇。arXiv由康奈尔大学运营，采用非营利模式，研究者无需支付任何费用即可上传和获取论文。预印本（preprint）的核心价值在于让研究成果在正式同行评审发表之前就能被全球同行阅读和讨论，大大加速了知识传播的速度——这在COVID-19疫情期间体现得尤为明显，大量关键研究正是通过预印本平台率先传播的。然而，正是这种开放性和低门槛，如今正被大规模AI生成内容所利用，成为一把双刃剑。

什么是AI slop：从互联网垃圾到学术灌水

"AI slop"是近两年在英文技术社区流行起来的一个贬义词，泛指由大语言模型批量生成、缺乏实质价值、逻辑松散或包含错误信息的低质量内容。这个词借用了英语中"slop"（泔水、猪食）的意象，暗示这些内容虽然表面上可以"食用"，但毫无营养价值。它最初用于描述充斥互联网的AI生成文章和图片——在搜索引擎结果、社交媒体信息流和内容农场中，AI slop已经显著降低了用户的信息获取效率。如今这一现象已经蔓延到学术领域，其危害程度远超普通互联网内容污染，因为学术论文承载着人类知识积累的严肃使命。

为何学术论文成为AI灌水的重灾区

生成式AI大幅降低了撰写"看起来像论文"的门槛。一篇结构完整、术语专业、引用格式规范的文章，如今可以在几分钟内由AI草拟完成。以GPT-4、Claude等前沿大语言模型为例，它们在海量学术文献上训练后，已经熟练掌握了各学科的写作范式、术语体系和论证逻辑，能够生成在形式上几乎无可挑剔的学术文本。这带来了几个直接后果：

• 形式合规但内容空洞：论文具备摘要、方法、实验、结论等标准结构，但缺乏真正的创新点或可靠的实验支撑。AI擅长模仿学术写作的"外壳"——恰当的被动语态、谨慎的措辞、层次分明的段落结构——但无法自主设计有意义的实验或产生真正的学术洞见。
• 虚构引用与数据：大模型的"幻觉"（hallucination）问题可能导致论文引用不存在的文献，或呈现无法复现的实验结果。所谓幻觉，是大语言模型的一个固有技术缺陷——模型本质上是一个概率性的下一个词预测系统，它并不真正"理解"事实的真伪，而是基于训练数据中的统计模式生成最"合理"的文本续写。当模型被要求列出参考文献时，它会根据作者姓名、期刊名称和论文标题的常见组合模式"编造"出看似真实的引用条目，这些文献可能作者真实、期刊存在，但具体论文却从未发表过。在实验数据方面，模型同样可能生成符合预期分布但完全虚构的数值结果，这种造假比传统的数据篡改更难被发现。
• 批量灌水冲击指标：部分研究者或机构为追求发表数量，利用AI快速产出大量相似论文，人为拉高论文计量指标。这一行为的根源在于当前全球学术评价体系的结构性缺陷——许多国家和机构仍然高度依赖论文发表数量、H指数（h-index）、影响因子（Impact Factor）等量化指标来评估研究者的学术表现，这些指标直接关联着职称晋升、经费获取和机构排名。在"不发表就出局"（publish or perish）的巨大压力下，AI灌水成为一种成本极低、收益可观的"理性选择"，尤其是在某些以论文数量作为核心考核标准的学术环境中。

单日近600篇的投稿量，本身就是一个异常信号。对于任何一个细分学科而言，这样的产出速度都远超正常研究节奏，很难不让人怀疑其中掺杂了大量机器生成内容。

AI垃圾论文对学术生态的多重冲击

审稿与筛选压力剧增

arXiv虽然是预印本平台，不进行严格的同行评审，但仍设有基本的分类审核机制（moderation）。具体而言，arXiv的审核系统由一套自动化筛选工具和约180名志愿审核员（moderator）共同构成。自动化系统会检查投稿的基本格式合规性、文本是否涉及剽窃等，而志愿审核员则负责判断论文是否属于其声称的学科类别、是否达到最低的学术标准。需要强调的是，这种审核的目的并非评判论文的质量优劣或结论的正确与否，而只是确保投稿"看起来像是一篇严肃的学术工作"。当投稿量呈爆炸式增长时，这条本就单薄的防线面临崩溃。志愿者审核人员和自动化系统都难以有效甄别哪些是真实研究、哪些是AI灌水——因为AI生成的论文恰恰在"看起来像严肃学术工作"这一点上做得越来越好。低质量内容的大量涌入，会显著增加真正有价值研究被淹没的风险，形成学术传播中的"劣币驱逐良币"效应。

学术信任基础被侵蚀

学术交流的核心是信任。当读者无法确信一篇论文是否经过真实研究支撑时，整个预印本体系的公信力就会受损。研究者在检索文献时，不得不花费更多精力去辨别真伪，这实质上提高了整个科研共同体的"信息噪声"成本。这种信任侵蚀的连锁效应可能远超预期：如果研究者开始对arXiv上的论文持普遍怀疑态度，他们可能转而只关注传统期刊的正式发表版本，这将从根本上削弱预印本模式加速知识传播的核心价值，使学术交流退回到更封闭、更缓慢的旧模式。

训练数据的自我污染与模型崩溃

更长远的隐患在于——这些AI生成的论文很可能被下一代大模型抓取作为训练数据。当模型用AI生成的低质量内容训练自身时，会形成"模型崩溃"（model collapse）的恶性循环：错误被不断放大和固化，学术知识的可靠性逐层衰减。

模型崩溃这一概念在2023年由英国牛津大学和剑桥大学的研究团队正式提出并在《Nature》上发表。他们通过理论分析和实验证明，当语言模型在自身或同类模型生成的数据上反复训练时，会出现一种系统性的退化：模型输出的多样性逐代降低，分布的尾部信息（即罕见但重要的知识）逐渐丢失，最终模型的输出会收敛到一个狭窄且失真的分布上。通俗地说，就像反复复印一份文件，每一代复印件都会比上一代更加模糊和失真。在学术语境中，这意味着如果arXiv上充斥的AI论文被未来的模型作为"高质量学术文本"吸收，那些论文中的错误推理、虚构数据和空洞论证都会被模型"学习"并在后续生成中复现，形成一个不断自我强化的污染链条。

这意味着AI垃圾论文的危害不仅限于当下，还可能对未来的AI系统产生深远的负面影响。互联网上的"高质量人类生成数据"正日益成为稀缺资源，而AI生成内容的比例却在指数级增长，这种此消彼长的趋势使得训练数据污染问题的紧迫性与日俱增。

平台与社区的应对困境

面对AI垃圾论文泛滥的趋势，arXiv等预印本平台正处于两难境地。一方面，收紧审核标准可能误伤真正的独立研究者，违背平台开放共享的初衷；另一方面，放任自流则会加速平台内容质量的滑坡。

目前业界讨论的可能应对方向包括：

• 引入AI内容检测机制：但现有的AI文本检测器准确率有限，且容易被精心修改的文本规避。当前主流的AI文本检测方法大致分为两类：一是基于统计特征的检测，分析文本的困惑度（perplexity）、词频分布等统计指标，因为AI生成文本往往在这些指标上呈现特定模式；二是基于水印（watermarking）的方法，在AI生成文本时嵌入人眼不可见但算法可识别的统计信号。然而，这两种方法都面临根本性的局限。统计检测方法的误报率（将人类文本误判为AI生成）和漏报率（将AI文本误判为人类撰写）都难以降到可接受的水平，特别是当人类对AI初稿进行修改润色后，检测准确率会大幅下降。水印方法则要求所有AI服务提供商统一嵌入水印，这在商业竞争和开源模型并存的现实中几乎不可能实现。OpenAI曾尝试开发AI文本分类器，但因准确率不足而于2023年下架。
• 强化投稿者身份认证与背书制度：通过提高灌水成本来遏制滥用，但同时也抬高了投稿门槛。arXiv目前已有一套背书（endorsement）制度——新用户首次向某个学科类别投稿时，需要获得该类别已有投稿资格的研究者的背书。但在实践中，这一制度的约束力有限，且可能对来自发展中国家或非主流机构的研究者造成不公平的准入壁垒。
• 社区标注与评分系统：依靠读者的集体智慧对论文内容进行质量评估和标记。类似的尝试已在一些平台上出现，如PubPeer的匿名同行评论系统和Semantic Scholar的引用语境分析功能。

然而，这些方案都存在明显局限。检测技术永远落后于生成技术的进化速度，而人工审核又难以规模化。这场攻防战本质上是一场不对称的竞赛——生产垃圾的成本极低（使用商业API生成一篇万字论文的成本可能不到一美元），而识别和清理垃圾的成本极高（需要具备专业知识的人类审稿人投入大量时间）。

冷静看待：AI学术写作的正当边界

补充一点，Hacker News上的这条讨论热度并不高（仅13分、7条评论），且"大部分是AI slop"更多是一种主观观察而非经过严格统计验证的结论。我们应当避免过度渲染恐慌。

生成式AI在学术写作中也有正当且有价值的用途：

• 帮助非母语研究者润色语言表达——这一点尤其重要，因为全球超过90%的高影响力学术论文以英语发表，而英语非母语的研究者在写作质量上长期面临不公平的竞争劣势。AI写作辅助工具在很大程度上平衡了这一差距，使研究者能将更多精力集中在科学问题本身而非语言障碍上。
• 辅助文献整理和综述撰写
• 加速初稿撰写，提高研究效率

工具本身是中性的，问题在于滥用。 真正的挑战不在于AI是否被使用，而在于如何区分"AI辅助的真实研究"与"AI伪装的虚假研究"。这需要平台机制、学术规范和技术手段的协同演进。值得注意的是，包括《Nature》《Science》在内的顶级期刊已陆续发布AI使用政策，通常允许将AI作为写作辅助工具，但要求作者在论文中明确披露AI的使用方式和范围，并强调AI不能被列为论文的共同作者，因为它无法对研究内容承担学术责任。

重建学术内容的信任机制

arXiv单日近600篇投稿的现象，是生成式AI时代学术出版面临挑战的一个缩影。它提醒我们：当内容生产的边际成本趋近于零时，"数量"将不再是价值的证明，甚至可能成为价值的干扰项。

未来学术生态的健康发展，或许要求我们从"以量取胜"的评价体系，转向更注重可复现性、真实贡献和长期影响力的质量导向机制。实际上，这种转型的讨论早在AI浪潮之前就已经开始——2012年的《旧金山研究评估宣言》（DORA）呼吁学术界停止使用期刊影响因子等单一指标评价个人研究成果；近年来兴起的开放科学运动也在推动预注册研究、数据公开和代码共享等提高研究透明度的实践。AI灌水问题的爆发，或许恰恰成为推动这些改革加速落地的催化剂。在AI能够轻易伪造形式的时代，如何守护学术研究的实质价值，将是整个科研共同体必须共同回答的问题。

核心要点