待验证50% 置信事实精确时间

安全对齐是指通过人类反馈强化学习等技术训练AI模型拒绝执行有害或违法的请求

1

来源数

50%

置信度

长期有效

时效性

2026/9/4

首次发现

来源

花266美元用4个AI破解平板：GLM-5.3一天搞定逆向工程

涉及实体

安全对齐concept RLHFconcept

相关事实

待验证安全对齐的核心方法是基于人类反馈的强化学习（RLHF）和宪法AI（Constitutional AI）74% 相似待验证工具审批机制在智能体调用具有副作用的工具时暂停执行并向人类发起确认请求，体现Human-in-the-Loop与最小权限原则71% 相似待验证主流AI安全训练遵循HHH原则——Helpful（有帮助）、Harmless（无害）、Honest（诚实），这三个目标在情感敏感领域会产生严重冲突67% 相似待验证AI安全训练中通常包含'避免对宗教和灵性信仰做出价值判断'的指导原则67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/855368

API

curl https://kongchang.com/api/v1/knowledge/claims/855368

MCP

get_claim(id=855368)