[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Causal Circuit / 电路 / 因果结构
因果电路
因果电路是机制可解释性中描述神经网络计算的核心概念,指恢复特定模型行为所需的最小因果计算结构,由注意力头、MLP层和信息流路径构成,其规模反映模型行为的逆向工程难度
来源文章
表征简洁≠电路更小:对抗训练揭示可解释性的阈值分野
9月30日