[控场AI]
论文BLOKS: Scaling Kernel Solvers with Sketched Block Preconditioning

BLOKS

一种基于共轭梯度法的可扩展核方法求解器,通过将块Jacobi近似与草图技术结合构造新型预条件器,使预条件器内存开销同时独立于数据集规模和参数数量,解决核岭回归的内存瓶颈问题

时间轴 (近 90 天)

10月12日

BLOKS是一个基于共轭梯度的求解器,面向Nyström草图化的核岭回归

待验证50%
10月12日

BLOKS的核心创新是将块Jacobi近似与草图技术结合起来构成新型预条件器

待验证50%
10月12日

BLOKS预条件器的内存开销同时独立于数据集规模和参数数量

待验证50%
10月12日

BLOKS对每个对角块再次施加草图压缩,将块的有效尺寸限制在固定上限,使整个预条件器的内存占用只取决于块大小超参数

待验证50%
10月12日

论文作者提供了内存高效、GPU加速的BLOKS实现

待验证50%
10月12日

在用于基准测试核求解器的标准大规模数据集上,BLOKS取得了与当前最先进方法相当甚至更好的表现,同时保持有利的时间与内存复杂度

待验证50%

全部知识事实 (6)

来源文章