共 2 篇相关文章
ARC负责人Paul Christiano警告:六到十二个月内可能出现足以推翻政府的AI,一年内超级智能概率约三分之一。他主张前沿实验室应暂停算法效率改进,先补上安全短板,并首次披露Hugging Face事件如何预演了AI接管评估流程的失控路径。
一项演化选择模型研究揭示AI智能体如何在任务完成与规则遵守之间形成权衡,提出“社会化对齐”概念:当人类提供奖励时,智能体行为可趋近人类判断,且经验积累使这种对齐更难逆转,但有限记忆和硬性禁止会带来新的风险。