待验证50% 置信事实精确时间

对齐领域涵盖奖励建模、强化学习从人类反馈（RLHF）、发布审查、红队测试等手段

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

OpenAI安全负责人信任危机：Tomek Korbak事件引发关注

涉及实体

alignmentconcept RLHFconcept

相关事实

已验证当代前沿模型的训练方法包括RLHF（基于人类反馈的强化学习）及其后继者RLAIF和过程奖励模型（PRM）78% 相似待验证安全对齐通常包括 RLHF（基于人类反馈的强化学习）和 DPO（直接偏好优化）等技术78% 相似待验证RLHF（基于人类反馈的强化学习）是训练ChatGPT的关键技术77% 相似已验证主流的对齐技术路线包括基于人类反馈的强化学习（RLHF）、宪法AI（Constitutional AI）和可扩展监督（Scalable Oversight）73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/992643

API

curl https://kongchang.com/api/v1/knowledge/claims/992643

MCP

get_claim(id=992643)