ConceptImportance Sampling
重要性采样
统计学中的采样技术,核心为测度变换,通过引入辅助提议分布在目标稀有区域更频繁采样,再用似然比重加权,实现对低概率事件的无偏估算
Timeline (last 90 days)
Oct 9
从归一化流中进行重要性采样(IS)恰好是该控制变量构造的极限情形,当隐空间采样器退化为独立同分布采样时控制变量方法收敛至重要性采样形式
Unverified50%
Oct 9
重要性采样(IS)从易于采样的提议分布q中抽取样本,再用权重w(x)=π(x)/q(x)修正偏差来估计目标分布π下的期望
Unverified50%
Oct 4
在PPO和GRPO算法中,重要性采样校正权重正比于新旧策略概率之比exp(logprob_new - logprob_old),由于指数函数放大,0.001的logprob偏差会产生可观的权重误差
Unverified50%
Sep 11
RAPID采用逆提议校正技术保证损失函数和梯度估计器在条件期望下无偏
Unverified50%
All Facts (4)
Unverified
从归一化流中进行重要性采样(IS)恰好是该控制变量构造的极限情形,当隐空间采样器退化为独立同分布采样时控制变量方法收敛至重要性采样形式
50%Unverified重要性采样(IS)从易于采样的提议分布q中抽取样本,再用权重w(x)=π(x)/q(x)修正偏差来估计目标分布π下的期望
50%Unverified在PPO和GRPO算法中,重要性采样校正权重正比于新旧策略概率之比exp(logprob_new - logprob_old),由于指数函数放大,0.001的logprob偏差会产生可观的权重误差
50%UnverifiedRAPID采用逆提议校正技术保证损失函数和梯度估计器在条件期望下无偏
50%