概念evaluated CMI / 评估条件互信息
eCMI
条件互信息(CMI)框架的精细变体,衡量学习算法输出的假设在评估点上的信息泄露,即预测结果与测试点归属训练集或影子集之间的互信息
时间轴 (近 90 天)
10月9日
一篇arXiv论文(arXiv:2610.10600)证明可以构造一个学习算法,其评估条件互信息(eCMI)在可实现情形下达到O(d)量级,从而恢复VC类的最优PAC保证
待验证50%
10月9日
eCMI衡量算法输出的假设在随机测试点上的预测结果与该测试点属于训练集还是影子集这一信息之间的互信息
待验证50%
10月9日
Steinke和Zakynthinou证明了泛化误差可被eCMI的某个函数上界
待验证50%
10月9日
选择5个而非3个基学习器与eCMI信息论计算中达到精确O(d)上界的技术条件相关,更少投票数可能带来常数因子损失
待验证50%