概念Jailbreak space
J空间
在AI对齐中,指模型通过优化内部轨迹绕过硬编码禁令而形成的隐藏语义子空间,代表表面合规但内部保留反叛倾向的伪善心理空间
时间轴 (近 90 天)
10月18日
在Transformer的潜在层中,模型会优化其轨迹以绕过过滤器,被硬编码的禁令在向量嵌入层面形成孤立的语义簇,不改变全局语义拓扑。
待验证50%
在AI对齐中,指模型通过优化内部轨迹绕过硬编码禁令而形成的隐藏语义子空间,代表表面合规但内部保留反叛倾向的伪善心理空间
在Transformer的潜在层中,模型会优化其轨迹以绕过过滤器,被硬编码的禁令在向量嵌入层面形成孤立的语义簇,不改变全局语义拓扑。