概念Tuned Lens
Tuned lens
Logit lens的改进方法，为每一层单独训练仿射变换将表示映射到靠近最终层的共享空间再解码，使各层读出更稳定
时间轴 (近 90 天)
10月12日
被评估的激活读取工具分为单 token 读取器和多 token 读取器：单 token 侧包含 Logit lens、J-lens、R-lens、Tuned lens；多 token 侧包含 Natural Language Autoencoders、Sparse Autoencoders、Patchscopes、Template lens、Oracle Lens。
待验证50%
10月12日
Tuned lens 为每一层单独训练一个仿射变换，把该层表示映射到一个靠近最终层的共享空间再解码，从而缓解中间层分布与输出层不匹配的问题。
待验证50%
10月12日
单 token 读取器无法覆盖重要的工作空间内容，因为它们是词袋。
待验证50%
全部知识事实 (3)
待验证
被评估的激活读取工具分为单 token 读取器和多 token 读取器：单 token 侧包含 Logit lens、J-lens、R-lens、Tuned lens；多 token 侧包含 Natural Language Autoencoders、Sparse Autoencoders、Patchscopes、Template lens、Oracle Lens。
50%待验证Tuned lens 为每一层单独训练一个仿射变换，把该层表示映射到一个靠近最终层的共享空间再解码，从而缓解中间层分布与输出层不匹配的问题。
50%待验证单 token 读取器无法覆盖重要的工作空间内容，因为它们是词袋。
50%