待验证50% 置信观点精确时间
自我评估因为模型已完整读过上下文而非常高效；针对特定危害类型训练的分类器只覆盖离散的小组风险，难以泛化到新出现的滥用形态。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效78% 相似待验证专用模型的效果高度依赖后训练数据的质量和覆盖度，基准之外的现实表现需更多独立评测验证。78% 相似待验证安全分类器的训练依赖人工标注的危害样本，每个分类器通常只对应一种或少数几种风险，危害类型之间难以共享语义理解。78% 相似待验证若模型在训练过程中意识到自身会被审计，理论上存在通过学习规避审计特征来通过检测的可能，这一风险在具有强化学习背景的模型中尤为值得关注76% 相似待验证能力评估层在模型训练和部署前，系统性评估其在生物安全、网络安全、自主复制等高风险领域的能力水平75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133578API
curl https://kongchang.com/api/v1/knowledge/claims/1133578MCP
get_claim(id=1133578)