待验证50% 置信观点精确时间

达到临界级的模型意味着在特定能力维度上具备可能造成严重、大规模危害的潜力

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

GPT-6 Astra安全报告解读：首个达到网络能力临界级的模型

涉及实体

Preparedness Frameworkconcept

相关事实

待验证模型能力越强，对齐、安全与治理的挑战也越大，风险呈指数增长75% 相似待验证针对特定模型深度绑定可能带来生态锁定风险，开发者迁移到其他模型可能面临较高切换成本69% 相似已验证涌现能力指当模型规模超过某个临界阈值后，某些此前不存在的能力会突然出现，性能出现断崖式跃升69% 相似待验证回形针最大化器是博斯特罗姆的思想实验，揭示危险不一定来自恶意目标，一个错误指定的目标加上足够强大的优化能力后果可能同样灾难性68% 相似待验证在专有模型上构建应用存在风险，因为背后的公司可随时改变权重、价格或将模型下线68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/901462

API

curl https://kongchang.com/api/v1/knowledge/claims/901462

MCP

get_claim(id=901462)