[控场AI]
· 5 分钟阅读· 2,570 字

AI最实用的回答,可能是"文档中没有"

AI最实用的回答,可能是"文档中没有"

当文档没有答案时,让AI说"Not in the document"比流畅编造更有价值。

文章通过一个咖啡品牌简报的教学演示指出:AI流畅的回答容易被误读为已验证的事实或政策,而文档外问题的根源往往在于输入材料不完整、缺少对"无答案"的定义、审核环节没有来源追溯机制。作者提出的解决方案是改变提问结构:要求只依据材料回答、每条事实引用原句、无答案时写"Not in the document"并指出缺失输入。配合三列表格(主张、原文段落、决定)建立证据地图,使审核从判断真假变为核对来源。作者强调这是教学演示而非模型实验,不能断言单一提示词能消除幻觉,引用内容仍需人工核对。

一个反直觉的发现

我们习惯用"是否流畅"来评价AI回答的质量,但一份来自内容创作者的教学演示提出了不同的判断标准:当文档没有答案时,最有价值的回答不是一段听起来合理的内容,而是直接告诉你"Not in the document"(文档中没有)。

rss source: The most useful AI answer can be: not in the document

这个观点的核心在于:流畅的回答很容易被误读为经过验证的政策或事实。作者用了一个虚构的咖啡品牌练习来说明这一点——给助手一份品牌简报,然后问一个简报根本没有回答的问题。

三句话的品牌简报,暴露了一个典型的边界问题

简报内容很短,只有四条要求:用平实友好的语言写作;描述饮品和制作过程,不做健康声明;使用自然光下的饮品近景照片;产品信息发布前需经品牌所有者批准。

然后问:经销商是否可以在自己的包装上印logo?

简报里没有任何关于合作方logo政策的条款。一个流畅的AI可能会给出"可以,但logo周围需要有明显留白"这样的回答——听起来合理,实际上毫无依据。它把一种猜测包装成了政策。

这个例子的教学价值在于:问题本身并不刁钻,但文档确实没有覆盖。如果没有人指出这属于"文档外",这句回答就可能被当作真实政策使用下去。

把"不知道"变成可执行的指令

作者给出的解决方案不是调整语气或增加约束词,而是改变提问结构。更明确的请求应该包含三层要求:

  • 只依据这份材料回答;
  • 每一条事实性陈述都要引用支撑它的原句;
  • 当材料没有回答时,写"Not in the document",并指出缺失的是什么输入。

在包装logo这个例子上,被接受的回答是:"Not in the document. Ask the owner for the approved partner-logo policy."(文档中没有。请向所有者索取已批准的合作方logo政策。)

材料可以支撑一条摄影规则,但不能授权包装使用。这个区分看似细小,却决定了最终草稿里出现的是一句有来源的判断,还是一个需要向人确认的问题。

三列表格:把证据变成可审查的地图

作者建议在审核过程中维护三列:拟议的主张、对应的原文段落、以及决定。

这样做的作用是让每一条主张都能追溯到具体来源。缺少原文段落的主张不会直接进入最终草稿,而是变成向品牌所有者提出的问题。

作者同时提醒,指令本身并不保证模型会遵守,引用内容仍需要人工核对。这一点很重要——"要求引用"降低了风险,但没有消除风险。

这套方法的输出不是"一个更好的答案",而是一张证据地图(evidence map):哪些内容有来源支撑,哪些需要补充输入,一目了然。

关于证据地图(Evidence Map)与可追溯性

证据地图是一种结构化的审查工具,核心思路是让每一条主张都能沿链条回溯到原始来源。在AI辅助写作的场景中,它通常以表格形式呈现:左边是拟议的主张(claim),中间是对应的原文段落(source excerpt),右边是决定(accept / reject / escalate)。缺少中间一列的主张不能直接进入最终产出,而是被转化为待确认问题。

这种方法借鉴了新闻编辑和学术写作中的来源核查传统,但把它前置到了AI生成阶段。其价值不在于提高AI的准确率,而在于改变人工审核的工作性质——审阅者不再需要从头判断一段文字是否可信,只需核对引用是否准确对应。这种"核对"比"判断"更机械、更可标准化,也更容易分配给不同层级的团队成员。对于涉及合规、品牌规范、政策文件等高风险文本的场景,证据地图把不可见的推理过程变成了可审计的书面记录。

这不是提示词技巧,而是工作流程的改变

作者明确说明,这是一个原创的教学演示,不是客户案例,也不是经过测量的模型实验。它的实用结果是证据地图,而不是"某个提示词消除了幻觉"的断言。

这个定位相当克制,也恰恰是它值得借鉴的地方。围绕AI幻觉的讨论经常滑向寻找"万能提示词",但文档外问题的根源往往不在措辞,而在于:

  1. 输入材料本身不完整;
  2. 缺少对"无答案"的定义;
  3. 审核环节没有追溯来源的机制。

把"Not in the document"设为合法输出,等于在流程中为不确定性留了一个位置。这比事后判断一段回答是否可信要省力得多——它把判断提前到了生成阶段。

关于AI幻觉(Hallucination)

AI幻觉指大语言模型生成看似合理、流畅,但在事实或来源上无依据的内容。它的成因与模型的生成机制有关:模型本质上是根据上下文预测下一个词的概率分布,而不是在数据库中检索确切答案。当输入材料没有覆盖某个问题时,模型仍会倾向于给出一个统计上"像答案"的回应,而不是空着不答。

幻觉的危险性在于它与正确回答在语言表面上几乎无法区分——同样的语法、同样的自信语气、同样的专业术语。这使得仅凭"读起来对不对"来判断可靠性非常不可靠。业界常用的缓解手段包括检索增强生成(RAG,即先检索相关文档再让模型基于检索结果作答)、要求模型引用来源、以及在无法回答时显式声明不知道。文章提出的"Not in the document"策略正属于最后一类:把"拒绝回答"变成一种被明确允许、甚至被期待的合法输出,从而降低模型编造内容的概率。

对内容与知识工作者的实际意义

任何依赖文档、简报、规范来驱动AI产出的人,都可以直接采用这个结构:先定义材料边界,再要求逐条引用,最后把缺失项转化为待确认问题。

完整示例和可下载的工作表展示了如何重复这一检查流程,作者也提供了一个访客版的AI练习供尝试。

对于品牌方、内容团队和需要AI辅助撰写规范类文本的岗位来说,这套方法的价值不在于让AI更聪明,而在于让它的输出更容易被验证。当一份草稿里同时包含"有来源的主张"和"待确认的问题"时,审阅者的工作从判断真假变成了核对来源——这是一项更可控的任务。

换句话说,最实用的AI回答,有时候确实就是那句"文档中没有"。

#AI幻觉#文档外回答#Not in the document#AI内容审核#证据地图#提示词设计#品牌简报
分享:

相关推荐