待验证50% 置信事实精确时间
Anthropic在可解释性研究方面的代表工作是“回路分析”和“字典学习”：前者试图定位模型中完成特定任务的神经元路径，后者试图把稠密激活分解为可理解的稀疏特征。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证Anthropic研究团队通过稀疏自编码器（Sparse Autoencoder）分解模型激活空间，试图找到可解读的神经元语义特征79% 相似已验证机制可解释性由Anthropic、DeepMind等机构的研究者主导推动，致力于逆向工程神经网络内部的算法结构78% 相似待验证Anthropic研究团队通过激活修补和电路分析等技术尝试直接解读模型内部计算过程76% 相似已验证麻省理工学院与Anthropic的可解释性研究发现模型内部存在大量多义性特征，单个神经元可能同时响应多个看似无关的语义概念74% 相似待验证Anthropic等研究团队正在通过稀疏自编码器等技术试图直接解读模型内部表示，但这些方法距离生产可用还有很长的路73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1100427API
curl https://kongchang.com/api/v1/knowledge/claims/1100427MCP
get_claim(id=1100427)