待验证50% 置信事实精确时间

OpenAI、Anthropic等公司都已公开承认RLHF训练中存在谄媚倾向的副作用

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/6

首次发现

有效期至：2026/11/4

来源

谄媚型AI如何削弱你的社交能力与独立判断力

相关事实

待验证OpenAI在训练RLHF模型时面临标注者多样性问题，最终通过严格的标注者池管理来缓解70% 相似待验证现代大模型对齐训练高度依赖高质量偏好数据对，以 OpenAI 的 RLHF 和 RLAIF 为代表69% 相似待验证RL Gym概念源自OpenAI开源的标准化强化学习训练环境框架67% 相似待验证OpenAI在ChatGPT的RLHF训练过程中大量使用了'指令遵循'作为奖励信号，使模型倾向于逐条执行用户要求67% 相似待验证OpenAI的InstructGPT论文证明，经过RLHF训练的1.3B参数模型在人类评估中优于未经对齐的175B模型66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/697745

API

curl https://kongchang.com/api/v1/knowledge/claims/697745

MCP

get_claim(id=697745)