机器言论的三次变异：从搜索引擎到生成式AI的法律困境

当算法开始「说话」

我们的数字生活正被算法输出所包围。从搜索结果到社交媒体动态，再到对话式AI，机器生成的「言论」已经成为组织当代生活的基础设施。一篇发表于arXiv的法律研究论文《The Mutations of Machine Speech》提出了一个发人深省的框架：法律并非仅仅在被动回应技术变革，而是主动地促成并塑造了这些变革。arXiv是由康奈尔大学运营的开放获取预印本平台，涵盖物理学、计算机科学、数学、法学等领域的前沿研究，其开放共享的特性使得跨学科对话成为可能。

论文的核心洞察在于，它追溯了算法输出的演化历程，揭示了「机器言论」在过去数十年间经历的三次根本性变异。每一次变异都伴随着深刻的技术-法律纠缠（technolegal entanglements），以及对社会认知方式的重大冲击。「技术-法律纠缠」这一概念借鉴了科学技术研究（STS）领域的「社会技术纠缠」理论，强调技术系统与法律制度之间并非简单的单向因果关系，而是相互建构、共同演化的复杂网络——技术创造新的法律问题，而法律回应又反过来重塑技术的发展方向。这一视角直接挑战了传统法学中「技术中立」的假设，即法律应当独立于特定技术形态而保持普适性。理解这些变异，对于我们思考言论自由、信息隐私乃至更广泛的法律哲学，都具有紧迫的现实意义。

第一次变异：言论成为可查询的数据

论文指出的第一次变异，发生在搜索引擎兴起的时代。在这一阶段，「言论」被重新定义为可供查询的数据。搜索引擎将互联网从单纯的信息检索空间，转变为一种「算法可见性」的经济体制。

要理解这一转变的技术基础，需要回顾搜索排序技术的演化轨迹。早期搜索引擎依赖简单的关键词匹配，而Google在1998年推出的PageRank算法开创性地利用网页间的链接关系来评估页面权威度——一个被更多高质量页面链接的页面被认为更具可信度。此后，排序算法持续演进，如今已融合深度学习的语义理解模型，能够解析用户查询的真实意图。这意味着算法不仅在组织信息，更在定义什么信息「值得被看见」。

这一转变的意义远比表面看起来深远。当信息的价值不再取决于内容本身，而取决于它在算法排序中的位置时，「被看见」就成为一种稀缺资源。谁能出现在搜索结果的第一页，谁就掌握了话语权和商业机会。SEO（Search Engine Optimization，搜索引擎优化）行业的诞生正是这一逻辑的直接产物——人们不再仅仅为人类读者写作，而是同时在为算法「写作」。这一行业在2023年的全球规模已超过800亿美元，其本质是围绕算法可见性展开的资源竞争，深刻地重塑了内容创作的激励结构。

可见性即权力

在这一体制下，法律扮演了关键角色。平台责任的界定、版权规则的适用、搜索结果排序是否受言论自由保护等问题，都在无形中塑造了「算法可见性经济」的边界。

其中最具标志性的法律框架是美国《通信规范法》第230条（Section 230）。该条款规定互联网平台不因用户发布的内容而承担出版者责任，同时赋予平台「善意」内容审核的豁免权。这一1996年通过的法律条款，被广泛认为是美国互联网产业崛起的法律基础设施。然而，当平台通过算法主动排序和推荐内容时，它已经超越了中立管道的角色，实质上行使着编辑权力，第230条的豁免逻辑是否仍然适用，成为当代法律争论的核心焦点。

与此同时，欧盟在2014年的「被遗忘权」（Right to be Forgotten）判决中首次明确：搜索引擎的排序结果本身构成一种信息处理行为，需要受到数据保护法的约束。这标志着法律对算法可见性经济的直接介入，也体现了不同法律传统对「机器言论」截然不同的回应方式。法律并非中立的旁观者，而是这一新秩序的共同建构者。

第二次变异：言论成为参与度指标

第二次变异随着社交媒体平台的崛起而到来。在这一阶段，「言论」被重新框定为参与度（engagement）。社交媒体将内容审核与内容放大融为一体，把表达行为转化为衡量注意力的指标，并由企业架构所治理。

参与度作为核心指标的兴起，与注意力经济（attention economy）理论密切相关。诺贝尔经济学奖得主赫伯特·西蒙早在1971年就指出：「信息的丰富意味着注意力的匮乏。」社交媒体平台将这一洞察转化为商业模式——Facebook（现Meta）的EdgeRank算法、TikTok的推荐引擎、Twitter（现X）的时间线算法，本质上都是注意力分配系统。这些系统通过持续的A/B测试不断优化参与度指标，将用户的每一次点击、停留和滑动都转化为可量化的行为数据。

这是一个微妙但影响深远的变化。在社交媒体的逻辑中，一条言论的「价值」不再取决于它是否真实、是否有益，而取决于它能激发多少点赞、评论和转发。平台算法天然倾向于放大那些引发强烈情绪反应的内容——这恰恰解释了为什么极端化、争议性和情绪化的言论在社交网络上如此容易病毒式传播。2021年Facebook前员工Frances Haugen泄露的内部文件（「Facebook Papers」）进一步证实了这一点：公司内部研究早已知晓其算法对青少年心理健康和政治极化的负面影响，但出于商业利益的考量，并未采取充分的纠正措施。

内容审核与算法放大的双重博弈

论文特别强调了「审核」与「放大」的融合。平台一方面通过内容审核政策决定什么可以被说，另一方面又通过推荐算法决定什么能够被广泛看见。这两种权力的结合，使得平台对公共话语的塑造能力达到了前所未有的程度。

更值得警惕的是，这一切都发生在企业架构的治理之下。决定公共言论生态的规则，并非由民主程序制定，而是由私营公司在商业利益驱动下设计。这引出了一个根本性问题：当私营平台实质上承担了公共广场的功能时，传统的言论自由框架是否还适用？

「公共广场」（public forum）概念源自美国宪法第一修正案的判例法传统，指政府不得在传统公共空间（如公园、街道）限制言论自由。然而，当公共讨论的主要场所从物理空间迁移到数字平台时，这一传统框架面临根本性的适用困境。2023年美国最高法院审理的Moody v. NetChoice案和NetChoice v. Paxton案正是这一争论的司法体现——德克萨斯州和佛罗里达州试图立法禁止社交媒体平台基于政治立场进行内容审核，而平台方则主张内容审核本身就是受第一修正案保护的编辑自由。这场法律博弈的结果，将深刻影响第二次变异的最终走向。

第三次变异：生成式AI让检索走向终结

论文认为，我们正在经历第三次变异——它出现在对话式系统和生成式界面中。在这里，生成式文本正在取代信息检索。

当你向ChatGPT或类似系统提问时，它不再像搜索引擎那样返回一系列链接供你自行判断，而是直接生成一个看似权威的答案。这一转变带来了论文所称的「密集的技术-法律纠缠」以及「深刻的认识论后果」。

生成式AI引发的认识论危机

生成式AI最深层的挑战在于认识论层面。当机器直接给出答案时，信息来源的透明度大幅下降。用户很难追溯一个答案的依据，也难以判断其中是否包含「幻觉」（hallucination）或偏见。

「幻觉」是大语言模型（LLM）的一个核心技术局限，指模型生成看似合理但实际上不正确或完全虚构的内容。这一问题源于LLM的根本工作原理——它们是基于概率的文本预测系统，通过在海量训练数据中学习到的统计模式来生成下一个最可能的词元（token），而非从结构化知识库中检索经过验证的事实。2023年的「Mata v. Avianca」案件戏剧性地展示了这一风险：一名律师使用ChatGPT生成法律简报，其中包含多个完全虚构的判例引用，最终面临法庭制裁。检索增强生成（Retrieval-Augmented Generation，RAG）等技术试图通过将外部知识库与生成过程结合来缓解幻觉问题，但尚未从根本上解决。

搜索引擎时代，用户至少还保留着在多个来源之间比较和批判的能力；而在生成式界面中，这种批判性距离正在被削弱。

这不仅仅是技术准确性的问题，更关乎我们作为社会如何构建和验证知识。如果越来越多的人将生成式AI的输出视为可信的知识来源，那么对「真实」的判断权就在悄然从人类转移到算法系统手中。

AI生成内容的法律空白地带

与前两次变异相比，第三次变异引发的法律问题更为棘手。生成式内容的责任归属、AI训练数据与版权的关系、AI输出是否受言论自由保护、错误信息造成损害时谁应负责——这些问题目前大多处于法律的模糊地带。

在版权领域，美国版权局在2023年明确表示，纯粹由AI生成的作品不具备版权资格，因为版权法要求「人类作者」（human authorship）。在训练数据方面，The New York Times诉OpenAI案、Getty Images诉Stability AI案等里程碑诉讼正在检验「合理使用」（fair use）原则在AI训练场景下的适用边界——如果AI模型在训练过程中大量使用了受版权保护的作品，这究竟是变革性的合理使用还是大规模侵权？在责任归属方面，当AI输出导致损害时（如医疗建议错误、法律信息误导），是由开发者、部署者还是用户承担责任，现行侵权法体系缺乏明确答案。

欧盟《人工智能法案》（AI Act）于2024年正式生效，采用风险分级的监管框架，将AI系统按照其潜在风险程度分为不可接受风险、高风险、有限风险和最小风险四个等级，代表了目前最系统的立法尝试。论文呼吁法律学界正视自身在这一进程中的「建构性角色」——法律的每一次回应，都不只是在适应技术，更是在定义技术的社会意义。

这个法律分析框架为何重要

这篇论文最大的价值，在于它为一个高度碎片化的讨论提供了清晰的组织框架。言论自由、信息隐私、传播学等领域的学者长期以来各自探讨这些问题，但它们对更广泛法律思想的影响却常常被忽视。

作者试图弥合「观察技术变革」与「批判性评估法律建构作用」之间的鸿沟。换言之，我们不应把技术演化视为一种自然发生的、法律只能被动应对的力量；恰恰相反，法律的每一次选择——无论是平台豁免条款还是数据保护规则——都在主动塑造着机器言论的形态。这与法律领域中「法律建构主义」（legal constructivism）的传统一脉相承，后者认为法律不仅反映社会现实，更积极地参与社会现实的建构。

为AI治理提供概念工具

对于研究者、政策制定者和从业者而言，这个「三次变异」的框架提供了一个宝贵的概念资源。它帮助我们理解：我们今天在生成式AI治理上做出的法律和政策选择，将决定第三次变异最终的走向。正如第230条塑造了搜索引擎时代的信息生态，如今围绕AI责任、透明度和版权所做出的制度选择，将在未来数十年间定义人类与机器生成知识之间的关系。

结语

从「言论即数据」到「言论即参与度」，再到「生成取代检索」，机器言论的三次变异勾勒出一条清晰的演化轨迹。每一次变异都不仅是技术的跃迁，更是权力结构与认知方式的重构。

在生成式AI快速普及的当下，这篇论文提醒我们：真正的问题不在于技术能做什么，而在于我们通过法律和制度选择，允许它成为什么。法律从来不是旁观者，而是这场深刻变革的共同作者。