概念Private Sparse RLHF
差分隐私稀疏奖励估计
一种在RLHF中保护偏好数据隐私的框架,假设奖励模型仅由少数相关特征控制,利用稀疏性降低差分隐私噪声注入的维度,从而改善隐私-效用权衡。
时间轴 (近 90 天)
10月22日
一项新研究提出了差分隐私稀疏奖励估计框架,首次在稀疏假设下系统分析了RLHF中的隐私-效用权衡。
待验证50%
一种在RLHF中保护偏好数据隐私的框架,假设奖励模型仅由少数相关特征控制,利用稀疏性降低差分隐私噪声注入的维度,从而改善隐私-效用权衡。
一项新研究提出了差分隐私稀疏奖励估计框架,首次在稀疏假设下系统分析了RLHF中的隐私-效用权衡。