已验证65% 置信事实精确时间

安全对齐（Safety Alignment）是指通过RLHF、监督微调等技术手段引导模型输出符合人类价值观内容并拒绝有害请求的训练过程

3

来源数

65%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

GPT模型的"伤害洗白"：性别歧视被转化而非消除

涉及实体

安全对齐concept RLHFtechnology

相关事实

待验证内容安全主流应对方案包括RLHF价值对齐训练、输入输出双侧内容审核过滤器以及系统提示词约束机制76% 相似待验证安全强化学习（Safe RL）在优化目标中显式加入安全约束，确保智能体探索时不越过危险边界75% 相似待验证安全对齐主流方法包括RLHF、Constitutional AI以及红队测试71% 相似待验证商业大模型普遍采用多层安全防护机制（输入过滤、RLHF对齐训练、输出过滤）来防止滥用70% 相似待验证AI模型的安全护栏通常包括基于规则的关键词过滤、基于分类器的输出审核，以及通过RLHF在训练阶段植入的行为对齐69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/934522

API

curl https://kongchang.com/api/v1/knowledge/claims/934522

MCP

get_claim(id=934522)