Unverified50% confidenceFactExact time
麻省理工学院与Anthropic的可解释性研究发现模型内部存在大量多义性特征，单个神经元可能同时响应多个看似无关的语义概念
1
Sources
50%
Confidence
Long-term
Relevance
7/7/2026
First Seen
Sources
大模型为何开始「造词」：LLM语言边界的本质解析
hackernewshackernews7/6/2026
Related Claims
Unverified机制可解释性试图理解神经网络内部每个神经元和每层连接编码了怎样的概念76% similarUnverifiedAnthropic研究团队通过稀疏自编码器（Sparse Autoencoder）分解模型激活空间，试图找到可解读的神经元语义特征74% similarVerified机制可解释性由Anthropic、DeepMind等机构的研究者主导推动，致力于逆向工程神经网络内部的算法结构73% similarUnverified神经网络层数越多、神经元越多，模型的表达能力越强，但也越容易出现过拟合71% similarUnverifiedAnthropic的稀疏自编码器研究已能将百万量级的可解释特征从模型激活中分离70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/170074API
curl https://kongchang.com/api/v1/knowledge/claims/170074MCP
get_claim(id=170074)