Ping：用引用对抗AI幻觉的搜索新思路

AI搜索的信任危机

当我们习惯用Perplexity、Google AI模式或ChatGPT搜索来快速获取答案时，一个隐藏的问题正在被越来越多用户察觉：这些工具给出的答案，真的准确吗？

近日，一位开发者在Reddit上发布了名为Ping的早期测试版产品，将自己定位为Perplexity、Google AI模式和ChatGPT搜索的"以准确性为核心"的免费替代品。这个项目的出发点，恰恰击中了当前AI搜索的痛点——幻觉（Hallucination）。

幻觉是大语言模型领域最核心的技术挑战之一。它指的是模型生成看似合理、语法正确，但实际上与事实不符或完全虚构的内容。这一问题的根源在于LLM的训练机制——模型通过预测下一个最可能出现的token（词元）来生成文本，本质上是一个概率分布的采样过程，而非从知识库中检索事实。当模型的训练数据中缺乏某些信息，或者prompt引导模型进入低置信度区域时，它依然会基于统计规律生成流畅的回答，而不会主动停下来表示"我不知道"。

在学术界，幻觉问题被进一步细分为多个子类型：内在幻觉（Intrinsic Hallucination）指模型生成的内容与输入源文档直接矛盾；外在幻觉（Extrinsic Hallucination）指生成的内容无法从输入中验证，可能正确也可能错误。从神经网络的内部机制来看，Transformer架构中的注意力机制在处理长上下文时可能出现"注意力漂移"，导致模型在生成后续token时逐渐偏离原始检索内容。这种漂移现象与Transformer的自回归生成方式密切相关——每一步生成都以之前所有token作为条件，当序列变长时，早期检索到的关键信息在注意力权重分配中可能被稀释。2024年多项研究还揭示了"知识冲突"现象——当检索到的外部知识与模型参数化知识矛盾时，模型倾向于依赖哪一方取决于多种复杂因素，包括提示格式、冲突的显著程度等。以色列理工学院和Allen AI的研究发现，在某些情况下即使明确提供了正确的外部证据，模型仍会优先输出其参数中存储的（可能已过时的）信息。这使得幻觉问题的解决远非简单的工程优化所能覆盖，而是需要从模型架构、训练目标和推理策略等多个层面同时突破。

开发者坦言，自己在使用现有AI搜索时，"总是发现自己需要回去核对信息源，然后看到的内容却和AI给出的答案完全不同"。这不是个别用户的抱怨，而是整个AI搜索赛道尚未解决的系统性难题。

为什么AI搜索容易"一本正经地胡说"

要理解Ping的设计逻辑，先要理解现有AI搜索的工作方式。

当前主流AI搜索产品普遍采用RAG（Retrieval-Augmented Generation，检索增强生成）架构。这一架构由Meta AI研究团队（当时的Facebook AI Research）在2020年首次提出，核心思想是在LLM生成答案之前，先从外部知识库或互联网检索相关文档，再将检索结果作为上下文注入模型的prompt中。理论上，RAG能显著减少幻觉，因为模型可以基于检索到的真实文档生成回答。然而实践中，RAG仍面临多重挑战：检索到的文档可能相互矛盾、模型可能忽略检索内容而依赖自身参数知识、多文档摘要时信息可能被错误合并等。

RAG的完整技术栈远比"检索+生成"的简单描述更为复杂。典型的RAG pipeline包含多个关键阶段：查询理解与改写（Query Rewriting）将用户的自然语言问题转化为更适合检索的形式，例如将口语化的"为什么我的电脑这么卡"改写为"计算机性能下降原因诊断方法"；文档检索通常结合稀疏检索（如BM25算法，基于词频-逆文档频率的经典信息检索方法）与稠密检索（如基于向量相似度的语义搜索，使用BERT等模型将文本编码为高维向量再计算余弦相似度）；文档重排序（Reranking）使用交叉编码器对初始检索结果进行精排，相比双塔模型能捕获query与document之间更精细的交互信号；上下文压缩与选择则负责在有限的上下文窗口中保留最关键的信息片段，避免无关信息稀释模型的注意力。

2024年以来，学术界和工业界还发展出多种RAG变体：Self-RAG（自反思RAG）允许模型自主决定何时需要检索，通过特殊的反思token判断当前生成是否需要外部证据支持；Corrective RAG（CRAG）在检索结果不可靠时自动触发修正机制，引入一个轻量级评估模型来判断检索文档的相关性；Graph RAG则利用知识图谱结构化组织检索信息，通过实体关系图谱将碎片化的文档连接成结构化知识网络，特别适合多跳推理场景。然而即便在最先进的RAG系统中，"Lost in the Middle"问题依然突出——斯坦福大学Nelson Liu等人2023年的研究表明，当检索文档放置在上下文窗口的中间位置时，模型对这些信息的利用率会显著下降，模型往往只关注上下文开头和结尾的信息，这一现象在不同规模和架构的模型中普遍存在。

Perplexity官方对自身的描述是："当你向Perplexity提问时，它会使用先进的AI实时搜索互联网，从顶级信息源收集洞察，然后将这些信息提炼成清晰、简洁的摘要，以易于理解的对话式语气交付你所需要的内容。"

听起来很美好，但问题就出在**"提炼成摘要"**这个环节。Ping的开发者一针见血地指出：

"这容易产生严重的幻觉，因为大语言模型的核心机制决定了它们会因为'猜测'而非'承认不确定'获得奖励。"

这是LLM的本质特性——模型被训练成永远给出一个流畅、自信的答案，而不是在信息不足时坦白"我不确定"。在RLHF（基于人类反馈的强化学习）训练过程中，模型被优化为给出完整、有帮助的回答，这种训练信号客观上加剧了幻觉倾向。

RLHF是当前对齐大语言模型的主流范式，由OpenAI在2022年的InstructGPT论文中系统化提出。该方法分为三个阶段：首先用监督学习微调模型，然后训练一个奖励模型（Reward Model）来模拟人类偏好——让人类标注者对模型的多个回答进行排序，用这些排序数据训练奖励模型预测人类更倾向于哪种回答，最后用PPO（Proximal Policy Optimization，近端策略优化）等强化学习算法优化语言模型的输出策略，使其最大化奖励模型给出的分数。然而RLHF与幻觉之间存在一种结构性张力：人类标注者在评估模型回答时，天然偏好详细、完整、自信的回答——一个说"根据目前的信息，我无法确定"的回答在人类评估中通常得分低于一个详尽（即使略有不准确）的回答。这种偏好信号被奖励模型捕获后，会驱动语言模型在面对不确定性时依然生成详尽的回答，而非表达犹豫或拒绝回答。这被称为"谄媚"（Sycophancy）问题——模型学会了讨好评价者而非追求事实准确。2024年Anthropic等团队提出的Constitutional AI（用一套宪法原则替代人类标注）和DPO（Direct Preference Optimization，直接偏好优化，绕过显式奖励模型直接从偏好数据优化策略）等替代方案试图缓解这一问题，但尚未根本解决准确性与有用性之间的内在张力。

当AI在总结多个链接时，它可能会混淆来源、编造细节，或者对模糊信息强行给出确定性结论。

60%错误率的警示

开发者引用了哥伦比亚新闻评论（CJR）的一项研究数据作为佐证：

"综合来看，它们对超过60%的查询给出了错误答案。"

哥伦比亚新闻评论（Columbia Journalism Review, CJR）是全球新闻行业最具影响力的批评性出版物之一，创刊于1961年，隶属于哥伦比亚大学新闻学院。CJR长期以来致力于审视和提升新闻业的标准与实践，其对AI搜索准确性的研究采用了系统化的事实核查方法论——通常涉及选取具有明确事实答案的查询样本，由受过训练的人类评估者逐条核对AI回答中的每一个事实声明，区分完全错误、部分错误、误导性表述和遗漏关键上下文等不同类型的不准确。60%的错误率涵盖了事实性错误（如数字、日期、人名错误）、来源归因错误（将A来源的观点错误归于B）、过度概括（将个别研究结论表述为普遍共识）和遗漏关键限定条件（忽略"仅在特定条件下成立"等重要限定语）等多种类型的不准确。

这个数字相当惊人。如果超过一半的AI搜索答案存在问题，那么用户在依赖这些工具做决策、写报告、做研究时，实际上是在踩雷。这也解释了为什么许多深度用户依然保持着"AI给答案，我去核对源头"的使用习惯——AI搜索并没有真正减少他们的工作量。

Ping的核心思路：让引用回归中心

Ping的产品灵感来源颇有意思——开发者提到自己受到了知名产品人Lenny's Newsletter的启发。

他注意到，Lenny在文章中"用了大量的引用来支撑自己的观点，同时依然用自己的话来表达"。这种写作方式，正是Ping想要复刻到AI搜索中的核心理念。

引用带来的三重价值

开发者将引用的价值总结为三点：

准确性（Accuracy）：直接呈现原始来源的表述，减少AI二次加工带来的信息失真
真实性（Authenticity）：让用户看到"人类写下的原话"，而非AI的转述
可信度（Credibility）：通过人类作者的答案背书，而非纯粹依赖AI生成

这与现有AI搜索"只做摘要"的模式形成了鲜明对比。Ping的策略是将AI答案与大量原文引用相结合——AI负责组织和串联，但关键论断都由可追溯的原始引用来支撑。用户不必再点开每一个链接去核对，因为引用本身就直接呈现在答案里。

从技术实现角度看，这一"引用优先"策略涉及多个关键环节。首先是精确的段落级检索与匹配——系统需要从检索到的网页中精确定位与用户查询最相关的原文段落，而非仅仅匹配页面级别的相关性。这通常需要将网页内容切分为语义连贯的文本块（chunking），并建立细粒度的向量索引。其次是归因对齐（Attribution Alignment），即确保AI生成的每一个论断都能精确映射到对应的原始引用来源，这需要模型在生成过程中同时维护"内容生成"和"来源追踪"两条信息流。最后是引用质量排序——系统需要判断哪些来源更权威（如学术论文 vs 论坛帖子）、哪些引用更能直接回答用户问题（精确匹配 vs 间接相关），这涉及来源可信度评估和引用相关性打分的多维排序算法。

这一路径与学术界近年来研究的"可归因文本生成"（Attributable Text Generation, ATG）方向高度一致。2023年Google Research发表的"Attributed Question Answering"论文提出了AIS（Attributable to Identified Sources）评估框架，其核心标准是：对于模型生成的每一个声明，一个理性读者在阅读了引用来源后，是否会认为该声明得到了来源的支持。斯坦福大学的ALCE（Automatic LLM Citation Evaluation）基准则系统化地评估了模型在引用精确度（每个引用是否真正支持对应声明）和引用召回率（所有需要引用支持的声明是否都提供了引用）方面的表现。在工程实践中，实现高质量归因需要解决多个技术难题：句子级别的claim分解（将"X公司在2024年Q3营收增长30%并超越了竞争对手Y"这样的复杂陈述拆分为多个可独立验证的原子声明）、基于NLI（自然语言推理，判断前提是否蕴含、矛盾或不相关于假设）的支持度判断、以及在保持可读性的同时密集嵌入引用标注——既不能因为过多引用破坏阅读流畅性，也不能为了流畅性而省略关键归因。这些技术挑战正是Ping这类产品需要攻克的核心工程问题。

一次值得关注的AI搜索产品实验

从产品设计的角度看，Ping代表了一种对AI搜索范式的重新思考。

当下的AI搜索竞争，大多集中在"模型更强、速度更快、UI更漂亮"。AI搜索赛道在2023-2025年间经历了爆发式增长：Perplexity成立于2022年8月，由前OpenAI研究员Aravind Srinivas创立，截至2024年底估值已超过90亿美元，月活用户突破1亿，日均处理查询数百万次；Google于2024年5月在I/O大会上推出AI Overviews（前身为SGE，Search Generative Experience），将AI生成的摘要直接置于搜索结果顶部，覆盖超过10亿用户；OpenAI的ChatGPT搜索则在2024年10月开始测试、年底开放给所有用户，直接在对话界面中集成实时网络搜索能力。此外还有You.com（强调隐私和可定制性）、Exa（面向开发者的语义搜索API）、Andi（主打对话式视觉搜索）等垂直玩家争相入局。

从市场经济学角度看，这一赛道的竞争态势揭示了一个有趣的悖论：各家产品在底层技术路线上高度同质化（都基于RAG+LLM的基本范式），但在准确性这一最基础的指标上却都未达到令人满意的水平。这为像Ping这样聚焦于差异化价值主张的产品提供了切入空间——在技术基础设施日益商品化的环境中，产品层面的创新（如何组织和呈现信息）可能比底层模型的微小性能差异更能影响用户体验。

值得注意的是，传统搜索引擎的"十条蓝色链接"模式虽然需要用户自行筛选信息，但天然具备可追溯性——用户始终知道信息来源，可以通过点击链接直接验证。AI搜索在提升效率的同时，无意中牺牲了这种透明性，创造了一种"信息单点依赖"——用户被要求信任一个不透明的摘要系统，而该系统的错误往往隐藏在流畅自信的语言表面之下。

而Ping试图回答一个更根本的问题：我们究竟该如何在AI的流畅性和信息的可靠性之间取得平衡？

它的答案是——不要让AI成为唯一的信息中介。通过强化引用的比重，让用户始终能看到原始信源的真实表述，这某种意义上是对"AI黑箱摘要"的一种纠偏。这种思路也呼应了人机交互（HCI）领域的"适当信任"（Appropriate Trust）理论——优秀的AI系统不应追求让用户无条件信任，而应帮助用户校准其信任水平，使之与系统的实际能力匹配。

当然，作为一款早期测试版产品，Ping还有很长的路要走。开发者也坦诚表示："这还是个beta版本，我会持续改进答案质量，让回应尽可能准确和详尽，非常希望听到大家的反馈。"

免费策略的双刃剑

Ping的另一个卖点是完全免费，与需要付费订阅的Perplexity Pro形成差异化。这对早期获客有帮助，但也带来了可持续性的疑问——高质量的实时搜索和引用提取需要不小的算力和数据成本，免费模式能撑多久，将是产品能否走远的关键考验。

从成本结构的角度来看，每次AI搜索查询的成本远高于传统搜索——涉及实时网页爬取（需要维护爬虫基础设施和处理反爬机制）、文档向量化处理（将文本通过embedding模型转化为向量并存入向量数据库）、大模型推理（调用GPT-4级别模型单次推理的token成本）等多重计算开销，单次查询成本估计在0.01-0.05美元之间（视模型选择和检索深度而定），是传统关键词搜索的数十倍甚至百倍。Perplexity采用Freemium模式，免费版每天提供有限的Pro搜索次数（使用较强模型），Pro版本月费20美元，提供GPT-4、Claude等更高级的模型选择和无限使用次数，其收入来源还包括2024年底推出的广告产品"Sponsored Questions"——在搜索结果中以赞助问题的形式嵌入品牌内容。对于Ping这样的独立开发者产品而言，在尚未建立收入模型的情况下承担每日数千甚至数万次查询的推理成本，商业可持续性将是一个严峻挑战。历史上许多以免费策略启动的AI产品最终面临"要么涨价要么关闭"的困境。

准确性会成为AI搜索的新护城河吗

Ping的出现，反映了AI搜索用户群体正在成熟。当第一波"AI能回答一切"的新鲜感褪去后，用户开始真正关心"这个答案能不能信"。

这种用户心智的转变在技术采纳的生命周期中并不罕见——Gartner技术炒作周期（Hype Cycle）理论指出，新技术在经历"期望膨胀的峰值"（Peak of Inflated Expectations，公众和媒体对新技术的期待远超其实际能力）后会进入"幻灭低谷"（Trough of Disillusionment，用户发现技术的局限性，热情急剧降温），最终在用户形成理性认知后进入"生产力稳步攀升期"（Slope of Enlightenment，技术找到真正的应用场景并持续改进）。AI搜索正处于从峰值向低谷过渡的阶段——早期的"wow，AI能直接告诉我答案"正在被"等等，这个答案好像不对"所取代，而"准确性"正是推动行业走向成熟的关键指标，也将成为区分"demo级产品"和"生产级工具"的分水岭。

无论Ping最终能否成为主流产品，它所提出的**"引用优先、准确性至上"**的思路，都值得整个行业认真对待。在幻觉问题尚未被大模型厂商彻底解决之前，谁能率先提供"可核查、可追溯"的搜索体验，谁就可能赢得那些最挑剔、也最有价值的深度用户。

对于关注AI搜索赛道的从业者和用户来说，这类以"可信度"为差异化的产品实验，或许比又一个"更快的摘要引擎"更值得期待。

核心要点

AI搜索的幻觉问题源于LLM的概率生成本质和RLHF训练中的结构性偏差，60%以上的错误率表明这是系统性而非偶发性问题
Ping提出"引用优先"策略，与学术界的可归因文本生成（ATG）方向一致，通过强化原文引用来对冲AI摘要的信息失真
RAG架构虽然是当前AI搜索的技术基础，但其完整pipeline中的每个环节都可能引入误差，"Lost in the Middle"等已知问题仍未解决
AI搜索赛道正从炒作周期的峰值向幻灭低谷过渡，准确性和可追溯性可能成为下一阶段的核心竞争维度
免费策略有助于早期获客，但AI搜索的高推理成本使商业可持续性成为独立产品的核心挑战