待验证50% 置信事件精确时间
一位长期关注AI安全的作者在LessWrong上发表了题为《Why I'm scared of RL》的文章，表达对强化学习（RL）的担忧。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/12
首次发现
有效期至：2026/10/26
来源
涉及实体
相关事实
待验证政治学家弗朗西斯·福山发表了题为《我为何改变了对AI风险的看法》的文章，表示自己对加速主义叙事更加怀疑、对部分末日论场景更加开放62% 相似待验证Claude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症62% 相似已验证Anthropic采用RLHF（基于人类反馈的强化学习）和Constitutional AI方法进行模型改进61% 相似待验证Anthropic在2023年的研究论文中将模型过度顺从用户的现象正式命名为'谄媚问题'（sycophancy），并指出它是RLHF训练中几乎不可避免的系统性偏差60% 相似待验证作者最担心的是项目变成'屎山代码'——AI越改越乱，人类无法阅读和维护59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012053API
curl https://kongchang.com/api/v1/knowledge/claims/1012053MCP
get_claim(id=1012053)