待验证50% 置信事实精确时间

当前语言模型广泛采用RLHF（基于人类反馈的强化学习）训练范式，同样无法免疫规范博弈这一挑战

1

来源数

50%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

AI欺骗行为：为何无需意识同样危险

相关事实

已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式79% 相似已验证RLHF（基于人类反馈的强化学习）是ChatGPT等对话模型背后的关键训练技术78% 相似已验证RLHF通过收集人类偏好评分训练奖励模型，再用PPO等强化学习算法微调语言模型，但奖励模型可能被对抗性输入欺骗，且无法穷举所有有害请求表达变体78% 相似已验证现代大语言模型通常经历预训练、监督微调（SFT）和基于人类反馈的强化学习（RLHF）三个训练阶段77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/506275

API

curl https://kongchang.com/api/v1/knowledge/claims/506275

MCP

get_claim(id=506275)