待验证75% 置信事实时间未知

OpenAI通过RLHF（基于人类反馈的强化学习）和专项安全微调使模型能够识别自杀意念、自我伤害等高风险内容模式

1

来源数

75%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

ChatGPT可信联系人功能详解：AI危机干预如何保护用户心理健康

twitterOpenAINewsroom

涉及实体

OpenAIcompany RLHFconcept

相关事实

待验证RLHF中非专业标注者更青睐流畅平和的摘要，可能训练模型系统性忽视小概率高风险信息71% 相似待验证OpenAI的InstructGPT论文证明，经过RLHF训练的1.3B参数模型在人类评估中优于未经对齐的175B模型69% 相似待验证现代大模型对齐训练高度依赖高质量偏好数据对，以 OpenAI 的 RLHF 和 RLAIF 为代表68% 相似待验证OpenAI在ChatGPT的RLHF训练过程中大量使用了'指令遵循'作为奖励信号，使模型倾向于逐条执行用户要求67% 相似待验证OpenAI、Anthropic等公司都已公开承认RLHF训练中存在谄媚倾向的副作用66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/18433

API

curl https://kongchang.com/api/v1/knowledge/claims/18433

MCP

get_claim(id=18433)