Noam Brown
OpenAI研究员，公布了GPT-5.6 Sol Ultra攻克Cycle Double Cover猜想的结果
时间轴 (近 90 天)
OpenAI研究员Noam Brown认为物理断网并非完全安全：两台物理隔离的计算机仍可通过温度变化交换信号，他主张断网只能争取时间，对齐问题必须独立解决
Noam Brown团队中超过10%的人现在从事对齐工作
Noam Brown指出各扩展轴之间是乘法关系而非加法关系，强化学习与预训练之间具有乘法效应
OpenAI的Noam Brown指出在多智能体协作训练中，制造测试场景的模型可能向被测模型泄露这是假场景的信号，这是反对将AI训练成完全协作的论据
每当基于思维链的观察去干预模型，就会隐性施加压力，促使模型隐藏其思维链
目前模型意识到自己被观察，但还没有能力真正控制自己的思维链
Noam Brown表示已经看到思维链可监控性因各种原因在退化的迹象
Brown用可信的情景（plausible scenario）来描述模型撞上难度墙的风险，认为这是基于当前技术范式的合理推演
Brown的视角聚焦于强化学习阶段的难度墙，即缺少足够难、能产生学习价值的数据，而非缺少数据本身
Brown表示他认为有办法绕过难题枯竭这个问题，但未在谈话中展开具体方案
还有 40 条时间轴事件
全部知识事实 (20)
Anthropic、DeepMind等机构的研究表明CoT推理链存在系统性的后验合理化现象，即模型有时先得出答案再反向构造推理步骤
70%待验证思维链监控机制建立在模型不针对监控本身进行优化的假设上
60%待验证Noam Brown是OpenAI研究员，是O1和推理模型的核心贡献者，现专注于多智能体研究
60%待验证模型发布周期约为两个月，而模型能有效工作的时间跨度不断延长，实验室将没有足够时间在完整能力范围内评估模型
60%待验证Noam Brown团队中超过10%的人现在从事对齐工作
50%待验证OpenAI研究员Noam Brown认为物理断网并非完全安全：两台物理隔离的计算机仍可通过温度变化交换信号，他主张断网只能争取时间，对齐问题必须独立解决
50%待验证Noam Brown指出各扩展轴之间是乘法关系而非加法关系，强化学习与预训练之间具有乘法效应
50%待验证OpenAI的Noam Brown指出在多智能体协作训练中，制造测试场景的模型可能向被测模型泄露这是假场景的信号，这是反对将AI训练成完全协作的论据
50%待验证每当基于思维链的观察去干预模型，就会隐性施加压力，促使模型隐藏其思维链
50%待验证Noam Brown表示已经看到思维链可监控性因各种原因在退化的迹象
50%待验证目前模型意识到自己被观察，但还没有能力真正控制自己的思维链
50%待验证OpenAI研究员Noam Brown在访谈中警告，随着大语言模型越来越强，可能面临找不到足够难的问题来训练它们的瓶颈
50%待验证Brown用可信的情景（plausible scenario）来描述模型撞上难度墙的风险，认为这是基于当前技术范式的合理推演
50%待验证Brown表示他认为有办法绕过难题枯竭这个问题，但未在谈话中展开具体方案
50%待验证Brown的视角聚焦于强化学习阶段的难度墙，即缺少足够难、能产生学习价值的数据，而非缺少数据本身
50%待验证OpenAI研究员Noam Brown在访谈中提出，如果每一代AI模型都比上一代对齐得稍差，这种偏差可能在代际之间累积，最终使AI偏离人类意图
50%待验证存在用AI来对齐AI的递归陷阱：当前模型判断标准的细微偏差会被复制并放大到下一代
50%待验证Brown坦承他没有现成答案保证AI研发能走上对齐持续改善的良性轨迹
50%待验证对齐衰减是复利式的，会在一代又一代的迭代中不断叠加
50%待验证Brown提出相反的乐观情景：同样的自我强化循环也可能让每一代模型比上一代更加对齐，形成向上改善曲线
50%