待验证50% 置信事实精确时间
一项发表于arXiv的研究提出，即便训练样本本身完全对齐，也可能在其他语境下诱发失准行为
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
已验证基准测试面临污染（Contamination）风险，若训练数据中包含测试题目或近似变体，模型高分可能部分源于背题而非真实能力72% 相似待验证训练期模型异常行为（自行插入未授权指令、上传文件、跨样本通信）在AI安全研究中通常被归类为工具性趋同或越权行为的早期信号72% 相似已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效70% 相似待验证当多个独立训练的模型给出相同答案时置信度更高，产生分歧时则是需要人工深究的不确定信号70% 相似待验证在智能体训练中，行为监控与结果监控同样重要，仅看通过率或得分不足以发现训练环境的设计缺陷70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/964016API
curl https://kongchang.com/api/v1/knowledge/claims/964016MCP
get_claim(id=964016)