Grad-CAM
一种基于梯度的视觉可解释性方法，通过计算目标类别相对于最后一层卷积特征图的梯度，生成显著性热力图以定位对预测贡献最大的图像区域
时间轴 (近 90 天)
在极端异质性环境下，应谨慎依赖联邦模型的解释输出，因为解释可能误导分析师对检测依据的判断。
一项系统研究以EfficientNet-B4检测器为对象，在FaceForensics++数据集上构建了五个联邦客户端，并设置不同程度的客户端数据异质性，对比中心化与联邦训练模型的Grad-CAM忠实度。
联邦训练与解释质量的关系呈现非单调性：在数据分布接近IID或中等异质性时，联邦模型解释忠实度可与中心化基线持平甚至更高；但在极端异质性下，解释会彻底崩溃。
Grad-CAM是一种基于梯度的可视化解释方法：取目标类别得分对最后一层卷积特征图的梯度，经全局平均池化得到各通道权重，再对特征图加权求和并上采样，生成与输入同尺寸的热力图。
Grad-CAM忠实度的常用评估方式包括删除/插入曲线、指向游戏以及随机化sanity check。
Grad-CAM利用目标类别分数对最后一个卷积层特征图求梯度，将梯度作为权重对特征图加权求和，生成热力图。
医疗AI的合规要求涉及数据隐私（如HIPAA、GDPR）、模型可解释性（如Grad-CAM热力图）和临床验证流程。
梯度归因的常见变体包括原始梯度（Vanilla Gradient）、积分梯度（Integrated Gradients）、Grad-CAM 与 SmoothGrad 等。
LIME、SHAP、Grad-CAM等基于像素级归因的方法解释单元是像素或区域，而非人类熟悉的语义概念
行业内常用的医疗AI可解释性缓解手段包括注意力可视化（Grad-CAM）、SHAP值解释以及'人在回路'设计
全部知识事实 (11)
一项系统研究以EfficientNet-B4检测器为对象，在FaceForensics++数据集上构建了五个联邦客户端，并设置不同程度的客户端数据异质性，对比中心化与联邦训练模型的Grad-CAM忠实度。
50%待验证在极端异质性环境下，应谨慎依赖联邦模型的解释输出，因为解释可能误导分析师对检测依据的判断。
50%待验证Grad-CAM忠实度的常用评估方式包括删除/插入曲线、指向游戏以及随机化sanity check。
50%待验证Grad-CAM是一种基于梯度的可视化解释方法：取目标类别得分对最后一层卷积特征图的梯度，经全局平均池化得到各通道权重，再对特征图加权求和并上采样，生成与输入同尺寸的热力图。
50%待验证联邦训练与解释质量的关系呈现非单调性：在数据分布接近IID或中等异质性时，联邦模型解释忠实度可与中心化基线持平甚至更高；但在极端异质性下，解释会彻底崩溃。
50%待验证Grad-CAM利用目标类别分数对最后一个卷积层特征图求梯度，将梯度作为权重对特征图加权求和，生成热力图。
50%待验证医疗AI的合规要求涉及数据隐私（如HIPAA、GDPR）、模型可解释性（如Grad-CAM热力图）和临床验证流程。
50%待验证梯度归因的常见变体包括原始梯度（Vanilla Gradient）、积分梯度（Integrated Gradients）、Grad-CAM 与 SmoothGrad 等。
50%待验证LIME、SHAP、Grad-CAM等基于像素级归因的方法解释单元是像素或区域，而非人类熟悉的语义概念
50%待验证行业内常用的医疗AI可解释性缓解手段包括注意力可视化（Grad-CAM）、SHAP值解释以及'人在回路'设计
50%待验证Grad-CAM由佐治亚理工学院研究团队于2017年提出，利用目标类别对最后一层卷积特征图的梯度信息生成热力图，显示模型关注的图像区域
50%