待验证50% 置信事实精确时间

Constitutional AI 训练分为两个阶段：第一阶段模型根据宪法原则对自身输出进行批评和修正，第二阶段利用修正后的数据进行 RLHF 训练

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Anthropic被曝构建预测性监控系统，AI安全标杆陷伦理争议

涉及实体

Constitutional AIconcept RLHFconcept

相关事实

待验证Anthropic主打宪法AI安全框架，训练分为SLAIF自我评估修改和RLAIF强化学习两阶段76% 相似待验证CAI训练分为两阶段：先让模型依据原则进行自我批评与修正（SL-CAI），再通过基于AI反馈的强化学习（RLAIF）优化72% 相似待验证美国AI监管以模型训练算力阈值（以FLOP为单位）作为触发强制报备义务的量化指标68% 相似待验证LLaVA的训练分为两个阶段：第一阶段是预训练对齐（冻结视觉编码器和语言模型，仅训练投影层），第二阶段是指令微调（解冻语言模型进行端到端训练）67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/895424

API

curl https://kongchang.com/api/v1/knowledge/claims/895424

MCP

get_claim(id=895424)