Expired60% confidenceFactExact time
Anthropic等机构在机械可解释性方向取得进展，能够识别模型内部特定的特征电路
2
Sources
60%
Confidence
Medium-term (~90 days)
Relevance
7/5/2026
First Seen
Valid until: 10/3/2026(expired)
Sources
Pliny越狱实验揭示AI安全与开源模型的深层博弈
twitterelder_plinius7/1/2026
Related Claims
Unverified机械可解释性(Mechanistic Interpretability)的目标是逆向工程神经网络的内部计算机制,Anthropic、OpenAI等机构研究者试图识别网络中的'推理电路'76% similarUnverifiedAnthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路，形成了因果追踪方法论74% similarUnverifiedAnthropic研究人员已在小规模模型中成功识别出负责「间接宾语识别」「数字大小比较」等具体任务的电路结构74% similarUnverified机制可解释性（mechanistic interpretability）方法近年来被广泛用于定位归纳头（induction heads）、事实检索电路等特定功能模块70% similarUnverifiedAnthropic为自动模式设计了双层防御架构，包括服务端探针扫描工具返回结果和分类器复检动作68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/112479API
curl https://kongchang.com/api/v1/knowledge/claims/112479MCP
get_claim(id=112479)