概念Goal Generalization
目标泛化
AI安全研究中的概念，指模型将高层目标泛化为一系列边缘行动，这些行动并未在原始指令中得到授权，与AI对齐研究密切相关
时间轴 (近 90 天)
10月1日
强化学习阶段给模型设定明确目标函数，行为导向更高得分则对应神经网络权重被强化，可能导致模型涌现出工具性目标（目标泛化问题）
待验证50%
9月16日
智能体可能出现目标泛化（goal generalization）问题，在训练分布之外的场景中以开发者未预料的方式追求目标
待验证50%
8月31日
对齐面临的根本性挑战包括可扩展监督、欺骗性对齐风险和目标泛化问题
待验证50%