待验证50% 置信事实精确时间
对齐训练属于训练时干预，典型技术包括 RLHF、宪法 AI、DPO 等；防护系统属于运行时干预，包括输入输出过滤、权限沙箱、行为监控、异常熔断等工程手段。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证安全对齐是指通过训练手段使模型在面对有害请求时拒绝配合的能力，常见技术包括RLHF和宪法AI78% 相似待验证后训练优化包括指令微调、RLHF或DPO策略调整、系统提示词工程改进及工具调用和多模态融合能力强化76% 相似待验证RLHF和DPO等对齐技术的效果高度依赖预训练基础质量，预训练阶段未习得的能力几乎无法通过后续对齐补救74% 相似待验证Safety alignment in LLM training is typically achieved through methods like RLHF (Reinforcement Learning from Human Feedback) and Constitutional AI74% 相似待验证在RL训练中可通过设计更精细的奖励机制或引入对抗性监督来检测和惩罚可疑编码行为72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016569API
curl https://kongchang.com/api/v1/knowledge/claims/1016569MCP
get_claim(id=1016569)