[控场AI]
概念

R-lens

一种基于线性探测思路的激活读取变体,与Logit lens和J-lens同属单token读取方法

时间轴 (近 90 天)

10月12日

被评估的激活读取工具分为单 token 读取器和多 token 读取器:单 token 侧包含 Logit lens、J-lens、R-lens、Tuned lens;多 token 侧包含 Natural Language Autoencoders、Sparse Autoencoders、Patchscopes、Template lens、Oracle Lens。

待验证50%
10月12日

J-lens、R-lens 和类似线性探测的读出方法最终都压缩到单个 token 上表达,因此无法表示需要多个词才能说清的概念。

待验证50%
10月12日

在读取方式上,J/R/Logit-lens 在 64 层的 Qwen-3.6-27B 的第 20 至 60 层、每 4 层取一次 top-10 token。

待验证50%
10月12日

单 token 读取器无法覆盖重要的工作空间内容,因为它们是词袋。

待验证50%

全部知识事实 (4)

来源文章