待验证50% 置信事实精确时间
OpenAI、Anthropic等机构在「诚实性」和「已知未知」方向上开展工作，试图通过RLHF等对齐手段训练模型在不确定时主动表达不确定性
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/12
首次发现
有效期至：2026/12/11
来源
涉及实体
相关事实
待验证OpenAI、Anthropic等头部机构均将校准不确定性（calibrated uncertainty）列为模型安全性和可信度的核心指标73% 相似待验证随着OpenAI、Anthropic等公司对模型对齐研究的深入，新一代模型开始被训练出'有益的抵抗'能力，在用户推理错误或提出有害请求时给予反驳69% 相似待验证RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要65% 相似待验证OpenAI的准备框架本质上是自评体系，评估方法论和具体测试用例并未完全公开，缺乏第三方独立验证机制65% 相似待验证泊松过程常用于建模'事件到达'问题，但要求满足独立性和平稳性假设，而OpenAI的重置决策是人为驱动的，不完全满足这些假设64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/912210API
curl https://kongchang.com/api/v1/knowledge/claims/912210MCP
get_claim(id=912210)