待验证50% 置信事实精确时间

前沿大模型在 ALIGNMENTFORECASTBENCH 上直接预测对齐风险的表现效果很差

1

来源数

50%

置信度

长期有效

时效性

2026/9/30

首次发现

来源

对齐预测：训练前预判AI模型失准风险

涉及实体

ALIGNMENTFORECASTBENCHproduct

相关事实

待验证通用大模型在安全判断上存在不一致性，相同风险操作换个说法或添加合理化上下文就可能绕过其安全机制79% 相似待验证低概率、高影响风险框架源自期望效用理论与灾难性风险研究76% 相似待验证对模型内部机制的可解释性研究和潜在风险评估手段往往滞后于能力增长76% 相似待验证大模型在长时程任务中遭遇灾难性失败（负向奖励）时，策略网络会倾向于选择期望收益低但风险也低的行为，这被称为风险规避过度或局部最优策略76% 相似已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/961166

API

curl https://kongchang.com/api/v1/knowledge/claims/961166

MCP

get_claim(id=961166)