AI编造证人致律师被罚5000美元：司法界的幻觉危机

一桩谋杀案上诉引发的AI事故

新墨西哥州最高法院近日对一名律师作出处罚，原因是他在一起谋杀案的上诉文件中援引了由AI凭空捏造的证人和虚假警方证词。据路透社报道，该法院在周三提交的裁决文件中，对律师Stephen Aarons处以5000美元罚款，并以未能"核实事实主张与法律"依据为由判定其藐视法庭。

这起事件的核心问题并不复杂：律师在为当事人的谋杀定罪进行上诉辩护时，使用了生成式AI工具来协助撰写法律文书，而AI生成的内容中包含了根本不存在的证人和虚构的执法人员证词。当这些"证据"被提交到法庭后，其真实性经不起核查，最终暴露了整个文书的可靠性问题。

AI幻觉为何成为法律行业的高危地带

所谓"AI幻觉"（hallucination），是指大语言模型在缺乏真实信息时，会以高度自信的口吻生成看似合理却完全虚构的内容。对于日常写作场景，这类错误或许只是小麻烦；但在法律领域，一条虚构的证人证词或一个不存在的判例引用，都可能直接影响司法公正和当事人的命运。

谋杀案的上诉本身关乎当事人的自由乃至生命，这使得本次事件的性质格外严重。法院之所以不仅仅罚款、还判定律师藐视法庭，正是因为其核心指控是律师"未能核实"——问题不在于使用了AI工具，而在于对AI输出内容不加验证便直接提交。

这并非孤例。近年来，多个司法管辖区都出现过律师因引用AI虚构判例而受罚的案例。生成式AI在法律检索和文书起草上确实能提升效率，但它输出的"事实"缺乏可追溯的来源保证，一旦被当作真实材料使用，风险便被成倍放大。

责任落在人，而非工具

本案传递出一个明确信号：使用AI并不能免除专业人士的核查义务。法院的处罚逻辑清晰——律师作为法律文书的署名者和责任主体，有义务保证提交内容的真实性，无论这些内容来自助理、数据库还是AI。

对于整个行业而言，这类判罚正在逐步确立一条规范边界：AI可以作为辅助工具，但最终的事实核验、法律判断和职业责任必须由人承担。律师如果将AI生成结果不经核实直接采用，等同于放弃了自身的专业尽职义务。

随着生成式AI在法律、医疗、金融等专业服务领域加速渗透，类似的合规冲突预计会更加频繁。行业协会和监管机构可能需要更明确的使用准则，例如要求披露AI的使用情况、建立强制性的输出核验流程等。

对专业人士的启示

这起5000美元罚款案例的警示意义远超金额本身。它提醒所有依赖AI提升工作效率的专业人士：工具的便利性绝不等于结果的可靠性。

在高风险场景中使用AI，最基本的原则是"信任但要核实"——任何AI提供的事实性内容，尤其是引用、数据、人名和案例，都必须通过权威来源二次确认。对法律从业者来说，这意味着每一条证词、每一个判例引用都要回溯到原始文档。

生成式AI正在重塑众多行业的工作流程，但它无法替代专业判断和职业操守。这起案件为所有正在拥抱AI的行业上了一堂代价高昂的合规课。