#RLHF
共 4 篇相关文章

·5 分钟
眼动追踪+心理物理注意力分布:奖励模型偏好预测新思路
一项新研究将认知心理学中的注意力空间分布引入眼动增强的奖励模型训练,把视觉注意力建模为以注视点为中心的渐变分布,实验显示偏好预测准确率优于基线,且定性结果与人类阅读注意力研究一致。
阅读全文 →

·4 分钟
差分隐私稀疏奖励估计:RLHF隐私保护新突破
RLHF隐私保护新研究提出差分隐私稀疏奖励估计框架,在稀疏假设下实现更优隐私-效用权衡,理论误差上界显著优于稠密方法,实验验证于情感生成和安全对齐任务。
阅读全文 →

·5 分钟
CleanRM:用少量干净反馈破解RLHF噪声奖励建模难题
CleanRM提出用少量干净反馈结合最优传输校准逐样本噪声比例,解决RLHF偏好数据中噪声不均匀导致奖励模型有偏的问题,理论上保证无偏估计并提升下游对齐效果。
阅读全文 →
深度解读·6 分钟
AI训练的三个阶段:预训练、后训练与对齐详解
深入解析AI大语言模型训练的三个关键阶段:预训练学语言、后训练学做事、对齐学分寸。用新员工培养的类比,帮你理解ChatGPT等AI的能力边界,搞懂AI幻觉的根本原因。
阅读全文 →