待验证50% 置信观点精确时间

把SAE可分解性当作电路更小、更易逆向工程的替代指标，在低忠实度场景下可能产生误导

1

来源数

50%

置信度

长期有效

时效性

2026/9/30

首次发现

来源

表征简洁≠电路更小：对抗训练揭示可解释性的阈值分野

涉及实体

相关事实

已验证稀疏自编码器（SAE）在重建损失之外引入稀疏性正则化，将激活向量编码为过完备的稀疏表示74% 相似待验证近期研究ShortGPT发现Transformer模型中间层的隐藏状态之间往往存在高度余弦相似性，这些冗余层可被安全移除而对性能影响较小70% 相似待验证2023年的单义性研究探索了如何通过稀疏自编码器（SAE）在更高维稀疏激活空间中分离混叠特征66% 相似待验证结构化的 Prompt 能将幻觉率和过度改写概率显著降低，但不同模型对 Prompt 格式的敏感度差异显著66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/961080

API

curl https://kongchang.com/api/v1/knowledge/claims/961080

MCP

get_claim(id=961080)