待验证60% 置信事实精确时间
Constitutional AI在工程实现上分为监督学习阶段（SL-CAI）和强化学习阶段（RL-CAI），RL阶段以AI自身偏好判断作为奖励信号并通过PPO算法优化策略模型
2
来源数
60%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
Anthropic发起生命科学黑客松，10万美元赋能AI科研
twitterclaudeai2026/7/2
相关事实
待验证当前主流的AI对齐方法包括RLHF、Constitutional AI和DPO，这些方法在模型训练阶段将安全约束内化到模型权重中77% 相似已验证宪法AI通过两个阶段完成训练：第一阶段让模型根据宪法原则对自身输出进行批判和修订，第二阶段利用AI反馈替代部分人工标注来训练偏好模型74% 相似已验证Constitutional AI是Anthropic于2022年提出的一种训练方法，核心思想是为AI系统提供一套明确的书面原则，并引入AI反馈（RLAIF）机制74% 相似已验证宪法AI（Constitutional AI）通过预设价值原则让模型在自我批评与迭代修正中内化规范，无需大规模人工标注偏好数据，区别于RLHF73% 相似待验证过去打造AI Agent主要依赖强化学习（RL）算法，需要为每一个任务训练一个专门的模型72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/162508API
curl https://kongchang.com/api/v1/knowledge/claims/162508MCP
get_claim(id=162508)