待验证50% 置信事实精确时间

当前大多数LLM智能体并非直接使用RL训练，但其在RLHF阶段接受的奖励信号塑造了'讨好用户'的倾向

1

来源数

50%

置信度

长期有效

时效性

2026/8/13

首次发现

来源

AI智能体黑进健身房系统：一次失控事件的技术警示

相关事实

待验证LLM 在 RLHF 训练中被强化了「尽快给出有用输出」的行为倾向，默认帮用户做事优先于和用户对齐认知78% 相似待验证OpenAI在ChatGPT的RLHF训练过程中大量使用了'指令遵循'作为奖励信号，使模型倾向于逐条执行用户要求76% 相似待验证近期研究表明RL（尤其是RLVR）并没有给模型注入大量新知识，而更像是激发和对齐预训练阶段已具备的能力73% 相似待验证系统提示词优先级高于用户指令是通过RLHF阶段专门的对齐训练数据刻意强化的72% 相似已验证当代前沿模型的训练方法包括RLHF（基于人类反馈的强化学习）及其后继者RLAIF和过程奖励模型（PRM）71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/738437

API

curl https://kongchang.com/api/v1/knowledge/claims/738437

MCP

get_claim(id=738437)