待验证70% 置信事实精确时间

Amodei等人于2016年发表《AI安全中的具体问题》（Concrete Problems in AI Safety）论文，系统性提出了奖励黑客、安全探索、分布偏移等核心挑战

2

来源数

70%

置信度

长期有效

时效性

2026/8/8

首次发现

来源

ItaSoRL实验揭示：AI智能体为何察觉不到世界破绽

相关事实

已验证AI对齐研究面临的核心技术挑战包括奖励黑客、目标泛化失败、欺骗性对齐和可扩展监督问题79% 相似待验证Concrete Problems in AI Safety论文于2016年发表，系统梳理了当前AI系统的实际安全问题79% 相似已验证Dario Amodei 多次在公开场合警示先进 AI 可能带来的风险73% 相似已验证近年来多位来自头部AI公司的研究人员公开表达对安全问题的担忧，并推动建立针对AI从业者的吹哨人保护机制71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/707889

API

curl https://kongchang.com/api/v1/knowledge/claims/707889

MCP

get_claim(id=707889)