概念Epistemic Humility
认知谦逊
AI智能体评测的一个新维度，衡量智能体在检索到与既有训练知识相矛盾的证据时，能否正确识别冲突、修正答案并传达不确定性，而非固执地坚持错误结论
时间轴 (近 90 天)
10月11日
Sun 等人的论文（arXiv:2610.12360v1）提出了认知谦逊（Epistemic Humility）这一评测维度，用于衡量智能体在检索证据与既有认知冲突时的应对
待验证50%
10月11日
论文将认知谦逊行为拆解为识别（Identify）、解决（Solve）、上报（Escalate）三个维度
待验证50%
10月11日
研究者在受控冲突和自然发生的冲突两种场景下测试了四种智能体配置，每个冲突场景配有无冲突对照组
待验证50%
10月11日
研究发现高任务准确率并不保证认知谦逊，准确率与谦逊是正交的
待验证50%
10月11日
论文显示模型层面的干预（如在系统提示中加入承认不确定性的指令）能提升认知谦逊，但往往会降低任务准确率
待验证50%
9月8日
认知谦逊（Epistemic Humility）指AI对自身知识边界保持清醒认知的能力，理想AI助手面对超出知识范围的信息时应主动声明并建议联网核实
待验证50%
全部知识事实 (6)
待验证
Sun 等人的论文（arXiv:2610.12360v1）提出了认知谦逊（Epistemic Humility）这一评测维度，用于衡量智能体在检索证据与既有认知冲突时的应对
50%待验证论文将认知谦逊行为拆解为识别（Identify）、解决（Solve）、上报（Escalate）三个维度
50%待验证研究者在受控冲突和自然发生的冲突两种场景下测试了四种智能体配置，每个冲突场景配有无冲突对照组
50%待验证研究发现高任务准确率并不保证认知谦逊，准确率与谦逊是正交的
50%待验证论文显示模型层面的干预（如在系统提示中加入承认不确定性的指令）能提升认知谦逊，但往往会降低任务准确率
50%待验证认知谦逊（Epistemic Humility）指AI对自身知识边界保持清醒认知的能力，理想AI助手面对超出知识范围的信息时应主动声明并建议联网核实
50%