待验证50% 置信权衡取舍精确时间

当检索到语义相近但不准确的内容时，模型可能以高置信度输出错误的回忆，系统层面毫无警示机制，即假记忆问题

1

来源数

50%

置信度

长期有效

时效性

2026/10/3

首次发现

来源

AI智能体不需要记忆，而是需要文档

涉及实体

AI Agentconcept

相关事实

待验证欺骗是模型在内部已表征正确信息的情况下仍输出误导性内容，是系统性偏离而非能力不足79% 相似待验证基准过拟合和数据污染会导致模型通过记忆而非真正理解获得高分，使公开基准分数可信度存疑78% 相似待验证低质量的知识库会导致幻觉式引用，即模型看似使用知识库内容实则引用了错误或无关片段77% 相似待验证错误的记忆检索可能比没有记忆更糟糕77% 相似待验证大模型可能生成看似可信却完全错误的内容（幻觉），从而误导用户决策75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/970951

API

curl https://kongchang.com/api/v1/knowledge/claims/970951

MCP

get_claim(id=970951)