[控场AI]
概念Rényi Divergence

Rènyi散度

定义在概率分布上的广义散度族,由参数α控制,α→1时退化为KL散度,α→∞时趋近于最大散度

时间轴 (近 90 天)

10月19日

Rènyi差分隐私(RDP)基于Rènyi散度定义,相比纯差分隐私提供更紧的隐私损失组合,在机器学习与统计分析中广泛使用。

待验证50%
10月19日

除了高斯机制等少数情况,Rènyi散度的计算通常没有闭式解,数值计算面临高维积分难题。

待验证50%
10月19日

论文创新性地采用escort分布来构建KSD,escort分布能够突出分布中与隐私损失相关的区域,使KSD更敏感地捕捉Rènyi散度的变化。

待验证50%
10月19日

作者设计了基于escort分布的核函数,使得KSD成为Rènyi散度的一个可计算上界,且通过选择不同核函数可调节证书的紧致性。

待验证50%
10月19日

论文给出了高斯机制和拉普拉斯机制的精确恒等式,即KSD证书恰好等于Rènyi散度(在特定核下);对于指数机制则给出了上界。

待验证50%
10月19日

Rènyi散度是定义在概率分布上的广义散度族,由参数α(α>0, α≠1)控制;当α→1时退化为KL散度,α→∞时趋近于最大散度。

待验证50%
10月19日

Escort分布通过p(x)^β / Z重新加权(β为参数),放大或缩小原分布的高密度区域,使KSD对Rènyi散度中指数项更敏感。

待验证50%

全部知识事实 (7)

来源文章