待验证50% 置信观点精确时间

凡是能通过RL学到的东西本质上都是少量比特，容易被蒸馏复制，这是对抗模型提供商中心化的主要力量

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/17

首次发现

有效期至：2026/12/16

来源

三位AI研究者激辩：递归自我改进离我们还有多远？

涉及实体

蒸馏concept RLconcept John Schulmanperson

相关事实

待验证RL让模型收敛到少数几种被验证过的高分打法上，使模型变得更好但表达更窄77% 相似待验证经过RLHF对齐后的模型倾向于收敛到最安全、最高概率的输出，从而牺牲了创造性与多样性69% 相似待验证RLHF本质上是在模型输出分布上施加统计偏好，而非植入真正的价值理解，导致表面对齐在面对对抗性输入时易崩塌67% 相似待验证指令微调和RLHF强化了模型的指令跟随倾向，使其在提升任务能力的同时更易被外部指令误导67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/929306

API

curl https://kongchang.com/api/v1/knowledge/claims/929306

MCP

get_claim(id=929306)