#干预归因

稀疏自编码器特征评分到底识别了什么？从激活到干预的鸿沟

稀疏自编码器（SAE）特征发现分数能否预测干预效果？新研究给出否定答案：探针与干预归因的量级比可达数百倍，梯度预测符号一致率 91-97%，而探针仅 17-35%。