待验证50% 置信事实精确时间

当前可解释性主流路径包括事后归因方法（如注意力可视化、SHAP）与机制可解释性（如稀疏自编码器、电路分析），后者试图在神经元激活层面定位可识别的「特征电路」。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/22

首次发现

有效期至：2027/1/20

来源

中世纪钟表机械：维护、隐喻与AI时代的机器心智

涉及实体

可解释性concept 注意力可视化concept SHAPconcept 稀疏自编码器concept 电路分析concept

相关事实

待验证神经网络重要性度量的成熟技术路线包括梯度×输入、积分梯度、SHAP 值、LayerCAM 等73% 相似待验证解决细粒度视觉识别近邻歧义的主流技术路径包括注意力机制、部件检测网络和度量学习71% 相似待验证电路分析（如追踪注意力头与 MLP 的协作路径）依然有效，但它解释的是计算路径，而非表示空间的「洁净度」，两者属于不同层次的问题。71% 相似待验证图像识别中浅层神经元响应边缘纹理等低级特征，深层神经元对整体概念做出反应70% 相似待验证在卷积神经网络（CNN）中，模式往往对应可视化的特征图，例如边缘检测器或纹理过滤器69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1084450

API

curl https://kongchang.com/api/v1/knowledge/claims/1084450

MCP

get_claim(id=1084450)