待验证50% 置信事实精确时间

Anthropic 团队利用稀疏自编码器(SAE)从模型激活中提取了数以百万计的可解释特征

1

来源数

50%

置信度

长期有效

时效性

2026/9/1

首次发现

来源

Heretic：一键解除大模型审查限制的开源工具详解

涉及实体

Anthropiccompany Sparse Autoencodersconcept

相关事实

待验证稀疏自编码器(SAE)将模型激活分解为人类可解释的特征方向，Anthropic的Claude系列模型可解释性研究大量使用了这一技术79% 相似待验证Anthropic的稀疏自编码器研究已能将百万量级的可解释特征从模型激活中分离76% 相似待验证Anthropic通过稀疏自编码器（SAE）将模型内部的多义性激活分解为更单纯的特征74% 相似待验证2023年发布的稀疏自编码器研究表明模型内部存在数百万个可被识别的概念特征71% 相似待验证随着大模型能力成熟，越来越多SaaS工具正在从「呈现信息」向「生成决策」进化68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/837401

API

curl https://kongchang.com/api/v1/knowledge/claims/837401

MCP

get_claim(id=837401)