SelectPFN
一种基于先验数据拟合网络(PFN)的模型,能够联合执行贝叶斯变量选择与稀疏非线性回归预测,在单次前向传播中输出预测结果及每个变量的后验包含概率,并实现精确的有限样本假发现率控制。
时间轴 (近 90 天)
SelectPFN 是一种基于先验数据拟合网络(PFN)的模型,能够联合执行贝叶斯变量选择与预测,并专为稀疏非线性回归任务设计;它在单次前向传播中不仅给出预测结果,还返回每个变量的后验包含概率。
SelectPFN 的预测仅基于采样得到的变量子集进行计算,被排除的变量在数学上可证明无法影响预测结果。
SelectPFN 通过一个围绕组 spike-and-slab 稀疏输入神经网络构建的元先验,在合成任务上完成一次性预训练。
SelectPFN 能在约 0.04 秒内完成预测,根本原因在于 PFN 的摊销推断特性,将逐数据集推断成本摊销到预训练阶段。
SelectPFN 的研究团队为摊销选择发展了贝叶斯遗憾界,针对摊销中位数概率模型量化了摊销推断与理想贝叶斯推断之间的差距。
SelectPFN 的相关研究表征了检测一个变量所需的信息量随该变量对应结构的先验权重 ω 增长,其增长速率约为 (2/λ)log(1/ω),其中 λ≤1 为效率因子。
SelectPFN 的研究证明了一个负面结果:平均情况下的训练并不能自动转化为固定真值下的频率派保证,因此模型在任意给定数据集上的假发现率控制需要额外机制。
SelectPFN 通过列置换等变性结合原始列与 knockoff 列的随机交错,生成 knockoff 统计量,实现精确的有限样本假发现率控制,且该保证即使在元先验设定错误的情况下依然成立。
在 p 高达 500 的超出先验范围的非线性设计上,SelectPFN 的精度-召回曲线下面积(AUPRC)相比 lasso、BART、DART、LassoNet 以及组惩罚稀疏神经网络提升了 0.23-0.28。
在 p 高达 500 的超出先验范围的非线性设计上,SelectPFN 的假发现比例控制在约 0.07。
还有 2 条时间轴事件
全部知识事实 (12)
SelectPFN 是一种基于先验数据拟合网络(PFN)的模型,能够联合执行贝叶斯变量选择与预测,并专为稀疏非线性回归任务设计;它在单次前向传播中不仅给出预测结果,还返回每个变量的后验包含概率。
50%待验证SelectPFN 的预测仅基于采样得到的变量子集进行计算,被排除的变量在数学上可证明无法影响预测结果。
50%待验证SelectPFN 通过一个围绕组 spike-and-slab 稀疏输入神经网络构建的元先验,在合成任务上完成一次性预训练。
50%待验证SelectPFN 能在约 0.04 秒内完成预测,根本原因在于 PFN 的摊销推断特性,将逐数据集推断成本摊销到预训练阶段。
50%待验证SelectPFN 的研究团队为摊销选择发展了贝叶斯遗憾界,针对摊销中位数概率模型量化了摊销推断与理想贝叶斯推断之间的差距。
50%待验证SelectPFN 的相关研究表征了检测一个变量所需的信息量随该变量对应结构的先验权重 ω 增长,其增长速率约为 (2/λ)log(1/ω),其中 λ≤1 为效率因子。
50%待验证SelectPFN 的研究证明了一个负面结果:平均情况下的训练并不能自动转化为固定真值下的频率派保证,因此模型在任意给定数据集上的假发现率控制需要额外机制。
50%待验证SelectPFN 通过列置换等变性结合原始列与 knockoff 列的随机交错,生成 knockoff 统计量,实现精确的有限样本假发现率控制,且该保证即使在元先验设定错误的情况下依然成立。
50%待验证在 p 高达 500 的超出先验范围的非线性设计上,SelectPFN 的精度-召回曲线下面积(AUPRC)相比 lasso、BART、DART、LassoNet 以及组惩罚稀疏神经网络提升了 0.23-0.28。
50%待验证在 p 高达 500 的超出先验范围的非线性设计上,SelectPFN 的假发现比例控制在约 0.07。
50%待验证在 p 高达 500 的超出先验范围的非线性设计上,SelectPFN 每个数据集处理时间仅约 0.04 秒。
50%待验证SelectPFN 的优势在真实协变量矩阵上同样得以保持,且仅含交互效应的变量的检测率随其先验权重的增加而单调上升。
50%