拒绝引用无法验证法条的法律AI助手

在AI生成内容泛滥的当下，法律领域对准确性的要求近乎苛刻。一款在Hacker News上亮相的法律助手工具，因其「拒绝引用无法验证的法律」的设计理念引发讨论。它不追求回答一切，而是选择在证据不足时沉默。

法律AI的幻觉困境

通用大模型在法律场景中最危险的问题不是「不会答」，而是「自信地答错」。编造判例、虚构法条编号、混淆司法管辖区，这些「幻觉」在法律咨询中可能直接导致当事人做出错误决策。有研究指出，即便是在基准测试中表现优异的模型，在具体法律条文引用上的准确率仍然不稳定。

这款工具的切入点很直接：把「可验证性」作为输出前提。系统在生成任何法律引用之前，会先经过一道核验流程，只有通过验证的条文才会出现在最终回答中。

大模型幻觉的成因：大语言模型本质上是基于概率的文本生成器，其训练目标是预测下一个最可能出现的词元，而非检索事实。当模型被问及具体法条编号或判例名称时，即使训练数据中不存在该信息，模型也会依据语言模式「合理」地生成一个看起来可信的答案。法律文本的格式高度结构化（如「《民法典》第X条」），这种规律性反而增加了模型编造出格式正确但内容虚假引用的概率。此外，法律体系存在层级（法律、行政法规、地方性法规、司法解释）和地域差异，模型容易混淆不同效力位阶或司法管辖区的规定，进一步放大了幻觉风险。

产品如何划定「可说」与「不可说」

从发布信息来看，该助手的工作逻辑可以概括为三个环节：

• 检索阶段：从权威法律数据库或经过审核的语料中召回相关条文；
• 核验阶段：对拟引用的法条进行来源比对，确认其存在且表述一致；
• 兜底阶段：若核验不通过，系统明确告知用户「无法确认该引用」，而不是用模糊措辞蒙混过关。

这种「宁缺毋滥」的策略，与市面上主打「全能法律问答」的产品形成鲜明对比。后者往往以覆盖面为卖点，但在准确性上缺乏硬约束。

检索增强生成（RAG）：该助手的工作逻辑本质上属于检索增强生成架构。与纯生成模型不同，RAG 系统在回答前先从外部知识库中检索相关文档，再将检索结果作为上下文提供给模型生成答案。在法律场景中，检索源通常是权威法律法规数据库（如国家法律法规数据库、裁判文书网等）。RAG 的关键优势在于将「生成」建立在「检索到的证据」之上，从而降低模型凭空编造的可能性。但 RAG 并非万无一失——检索质量取决于数据库覆盖范围和召回精度，若检索到的条文本身已失效或被修订，核验环节仍需进一步比对时效性。

为什么「拒绝回答」反而是竞争力

法律服务的核心是信任。一个偶尔说「我不确定」的助手，比一个总是言之凿凿但偶有错误的助手更容易被专业人士接受。律师和法务人员在评估AI工具时，最关心的不是模型能答多少题，而是它出错时是否可被发现。

可验证性设计带来的另一个好处是可审计。当每一条引用都有来源可追溯，用户就能自行复核，这在一定程度上把「信任模型」转化为「信任流程」。对于需要留痕的法律工作场景，这一点比单纯的生成质量更有价值。

有意思的是，这种设计也带来明显取舍。核验流程会拖慢响应速度，且当数据库覆盖不足时，助手可能频繁拒绝回答，用户体验会打折扣。发布者在讨论中并未回避这一问题，但强调准确性优先于流畅度。

可审计性与法律职业责任：在法律职业中，律师对客户负有勤勉尽责义务，引用错误法条可能导致执业风险。可审计的AI输出意味着每一条引用都可追溯至具体来源，律师可以像复核实习生工作一样复核AI的引用。这种「人在回路」的复核机制，将AI定位为辅助工具而非最终决策者，既符合法律行业对留痕和可追溯的合规要求，也降低了因AI错误而引发的职业责任风险。相比之下，一个无法说明引用来源的「黑箱」回答，即使准确率更高，也难以被专业场景接纳。

对法律AI产品设计的启示

这款工具的价值不只在功能本身，更在于它提出了一个产品哲学问题：AI助手的边界应该由能力决定，还是由可信度决定？

从行业趋势看，越来越多的垂直领域AI开始采用「检索增强+来源约束」的架构。法律、医疗、金融等高风险场景对幻觉的容忍度极低，单纯依靠模型规模提升准确率的路径正在遇到瓶颈。把「不确定」显式表达出来，可能比假装确定更接近真实可用。

对于开发者而言，这个Show HN项目的参考意义在于：与其在通用能力上与巨头竞争，不如在一个对准确性有硬需求的细分场景里，把「不犯错」做成产品壁垒。