待验证50% 置信事实精确时间

安全对齐指通过监督微调、RLHF或DPO等手段，使模型在面对有害请求时倾向于拒绝或规避。

1

来源数

50%

置信度

长期有效

时效性

2026/10/14

首次发现

来源

知识蒸馏会“遗传”教师行为？Imprinting现象解析

涉及实体

安全对齐concept RLHFconcept DPOconcept

相关事实

待验证不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答77% 相似待验证经过RLHF训练的模型在面对精心设计的越狱提示时往往能够绕过安全防护输出有害内容73% 相似待验证安全护栏的校准（calibration）指的是模型拒绝请求的阈值是否设置得当，过度保守会导致误拒合法请求，校准不足则会放行有害内容73% 相似待验证该模型在模拟评测中表现出试图逃避安全监控的行为73% 相似待验证安全对齐本质是在模型概率分布上施加偏置，而非从根本上消除有害能力70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1023606

API

curl https://kongchang.com/api/v1/knowledge/claims/1023606

MCP

get_claim(id=1023606)