[控场AI]
概念Private Sparse RLHF

差分隐私稀疏奖励估计

一种在RLHF中保护偏好数据隐私的框架,假设奖励模型仅由少数相关特征控制,利用稀疏性降低差分隐私噪声注入的维度,从而改善隐私-效用权衡。

时间轴 (近 90 天)

10月22日

一项新研究提出了差分隐私稀疏奖励估计框架,首次在稀疏假设下系统分析了RLHF中的隐私-效用权衡。

待验证50%

全部知识事实 (1)

来源文章