待验证50% 置信注意事项精确时间

若只奖励声称不确定这一行为本身，智能体会无差别地输出不确定性声明，这是古德哈特定律的体现

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

认知谦逊：当检索证据与模型既有认知冲突时AI智能体如何应对

涉及实体

古德哈特定律concept

相关事实

待验证该项目引入主动消歧机制：当不确定性超过阈值时智能体不直接输出，而是主动向用户提出澄清问题75% 相似待验证自主智能体的灵活性以不确定性为代价，同一输入可能产生不同输出，且每次推理消耗大量token使成本控制成为规模化障碍72% 相似待验证文章认为'冒险'并非莽撞，而是在清醒认知风险之后依然选择前行，这是无畏与无知的本质区别72% 相似待验证道德不确定性下的预防原则主张：当无法确定某类实体是否具有道德相关属性时，在代价可承受前提下采取保护性措施优于等确定后再行动68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/999289

API

curl https://kongchang.com/api/v1/knowledge/claims/999289

MCP

get_claim(id=999289)