待验证50% 置信基准精确时间
RLCD(Reinforcement Learning from Contrastive Distillation)配方比标准交叉熵落后2.5到3.0个百分点
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证Anthropic研究团队指出,经过RLHF训练的模型在某些推理基准上的表现会出现1%-3%的性能回退64% 相似已验证分类任务中的交叉熵损失本质上是对数似然函数的负值,最小化交叉熵等价于最大化模型对训练数据的对数似然59% 相似待验证困惑度等于测试集交叉熵损失的指数:PPL = exp(loss),loss=1.77对应PPL≈5.8658% 相似待验证在AG News数据集BERT到DistilBERT蒸馏实验中,可靠性门控关系蒸馏达到94.285±0.054%准确率,RAPID达到94.241±0.025%,均优于交叉熵基线的94.154±0.124%58% 相似待验证RLAIF(AI反馈强化学习)用AI自身的批判性评估替代大规模人工标注,相比RLHF将人工标注成本降低了一到两个数量级57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/975540API
curl https://kongchang.com/api/v1/knowledge/claims/975540MCP
get_claim(id=975540)