待验证50% 置信事实精确时间
外部效度(external validity)指评估结果能否推广到真实部署场景——若测试环境过于简化,模型在真实世界中的风险行为可能未被触发;但环境越接近真实,工具调用(tool use)和自主行动(agentic behavior)带来的失控面就越大。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证外部评估是指AI机构将模型交由第三方专业团队进行独立测试,以避免自己评估自己可能带来的利益冲突与盲区70% 相似待验证如果模型能识别自己正处于测试状态并据此调整行为(评测感知/situational awareness),传统安全评测可能失去有效性70% 相似待验证自我评估存在根本性风险(自我评估悖论):如果模型有能力准确判断自己的输出是否正确,它一开始就不太可能犯这个错误,因此自我评估的效果往往不如外部验证可靠。69% 相似待验证当agent判断依据不足、置信度低于阈值时应引入人工介入,这是一种基于风险的动态审核69% 相似待验证检查Agent所用证据是否可靠,与判断某个外部动作该不该执行,是两种本质不同的风险69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1090712API
curl https://kongchang.com/api/v1/knowledge/claims/1090712MCP
get_claim(id=1090712)