Jacobian Lens
来自 Anthropic global workspace 论文的一种模型特定组件，用于捕捉模型内部状态的方向，是 U-Lens 实现机制的一部分。
时间轴 (近 90 天)
潜空间推理架构可能使现有的可解释性技术也变得更难使用，例如Jacobian Lens依赖模型将思维转化为token的概率，SAEs的解读依赖token输入输出关系，如果模型的认知只有很小一部分经过token，这些技术的可靠性都将下降。
U-Lens 唯一依赖的模型特定组件是 Jacobian Lens（J-Lens），来自 Anthropic 的 global workspace 论文。
J-Lens 通过估计隐状态到输出空间的雅可比矩阵，将任意一层的隐状态线性映射回可解释的 token 空间。
J-Lens 是模型特定但任务无关的：一旦针对某个模型拟合完成，就可复用于任意 prompt，无需再训练。
自行拟合 J-Lens 可使用 Anthropic 的参考代码（anthropics/jacobian-lens，jlens.fit），大约需要 100 条无标签 prompt，不训练任何参数，成本主要来自反向传播。
全部知识事实 (5)
潜空间推理架构可能使现有的可解释性技术也变得更难使用，例如Jacobian Lens依赖模型将思维转化为token的概率，SAEs的解读依赖token输入输出关系，如果模型的认知只有很小一部分经过token，这些技术的可靠性都将下降。
50%待验证U-Lens 唯一依赖的模型特定组件是 Jacobian Lens（J-Lens），来自 Anthropic 的 global workspace 论文。
50%待验证J-Lens 通过估计隐状态到输出空间的雅可比矩阵，将任意一层的隐状态线性映射回可解释的 token 空间。
50%待验证J-Lens 是模型特定但任务无关的：一旦针对某个模型拟合完成，就可复用于任意 prompt，无需再训练。
50%待验证自行拟合 J-Lens 可使用 Anthropic 的参考代码（anthropics/jacobian-lens，jlens.fit），大约需要 100 条无标签 prompt，不训练任何参数，成本主要来自反向传播。
50%