DP-μP
一种将最大更新参数化（μP）扩展到差分隐私训练的理论框架，通过信噪比条件和谱缩放公式，实现隐私优化器下的零样本超参数迁移。
时间轴 (近 90 天)
DP-μP 框架推导出一个信噪比（SNR）条件，用来刻画每一层在 DP 约束下信号与噪声的相对强度，并据此决定层间学习率如何缩放。
DP-μP 提出谱缩放（spectral scaling）公式，将 SNR 条件与矩阵谱性质结合，给出针对不同优化器的具体缩放规则。
DP-μP 覆盖的优化器包括 DP-SGD、DP-Adam 和 DP-Muon。
论文在 MLP、ViT 和 GPT-2 三种架构上验证了 DP-μP 的效果，实验设计为在较窄的模型上搜索学习率，然后直接应用到更宽的模型上，不进行额外调参。
实验结果显示，DP-μP 迁移后的性能匹配甚至超过了逐模型单独调优的基线，同时显著降低了计算成本。
DP-μP 的框架依赖 SNR 条件和谱缩放假设，在实际部署中需要验证这些假设是否成立。
论文的实证覆盖了图像和语言模型，但更多模态和训练范式下的表现仍待检验。
全部知识事实 (7)
论文的实证覆盖了图像和语言模型，但更多模态和训练范式下的表现仍待检验。
50%待验证DP-μP 提出谱缩放（spectral scaling）公式，将 SNR 条件与矩阵谱性质结合，给出针对不同优化器的具体缩放规则。
50%待验证DP-μP 覆盖的优化器包括 DP-SGD、DP-Adam 和 DP-Muon。
50%待验证DP-μP 框架推导出一个信噪比（SNR）条件，用来刻画每一层在 DP 约束下信号与噪声的相对强度，并据此决定层间学习率如何缩放。
50%待验证实验结果显示，DP-μP 迁移后的性能匹配甚至超过了逐模型单独调优的基线，同时显著降低了计算成本。
50%待验证DP-μP 的框架依赖 SNR 条件和谱缩放假设，在实际部署中需要验证这些假设是否成立。
50%待验证论文在 MLP、ViT 和 GPT-2 三种架构上验证了 DP-μP 的效果，实验设计为在较窄的模型上搜索学习率，然后直接应用到更宽的模型上，不进行额外调参。
50%