待验证50% 置信观点精确时间

预防原则主张即便灭绝级风险概率不高，其后果值得投入巨大资源去防范

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

AI真会毁灭人类吗？MIT科技评论圆桌深度拆解

涉及实体

预防原则concept

相关事实

待验证安全对齐本质是在模型概率分布上施加偏置，而非从根本上消除有害能力71% 相似待验证回形针最大化器是博斯特罗姆的思想实验，揭示危险不一定来自恶意目标，一个错误指定的目标加上足够强大的优化能力后果可能同样灾难性65% 相似待验证达到临界级的模型意味着在特定能力维度上具备可能造成严重、大规模危害的潜力63% 相似待验证将模糊的AI失控担忧细化为具体风险类别能让防范措施更有针对性63% 相似待验证模型能力越强，对齐、安全与治理的挑战也越大，风险呈指数增长63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/911074

API

curl https://kongchang.com/api/v1/knowledge/claims/911074

MCP

get_claim(id=911074)