待验证50% 置信观点精确时间

开源模型安全应在训练阶段就内嵌安全属性，仅靠训练后的RLHF对齐并不足够

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

Base Labs携手Hugging Face与Goodfire推进开源模型安全

涉及实体

RLHFconcept Base Labscompany

相关事实

待验证开源模型原始训练中的安全对齐可以通过少量微调被移除79% 相似待验证RLHF和DPO等对齐技术的效果高度依赖预训练基础质量，预训练阶段未习得的能力几乎无法通过后续对齐补救75% 相似待验证开源模型可能内嵌训练数据带来的偏见与风险，只是这些风险的责任归属变得更加分散74% 相似已验证OpenAI表示安全从模型训练第一天起就是首要考量，会引导对话主动远离风险话题73% 相似待验证模型层安全约束包括对齐训练（RLHF、Constitutional AI）、系统提示词安全指令、输出过滤器和护栏模型（如Llama Guard、NeMo Guardrails）72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/930050

API

curl https://kongchang.com/api/v1/knowledge/claims/930050

MCP

get_claim(id=930050)