待验证50% 置信观点精确时间
现代LLM的多层安全护栏并非统一的逻辑系统，而是训练过程中形成的多个独立倾向，不同安全规则被不同上下文触发时可能出现前后矛盾行为
1
来源数
50%
置信度
长期有效
时效性
2026/8/9
首次发现
来源
相关事实
待验证当前对齐方法主要依赖训练阶段的行为塑造，在面对精心设计的对抗性提示时安全边界可能被突破，这种现象称为'越狱'（jailbreaking）71% 相似待验证通用越狱指单一提示词或操作序列能系统性绕过模型所有安全约束，而针对性越狱只能解锁某一类具体有害行为67% 相似待验证大模型对指令的敏感度呈非线性分布——主干指令的微小改动可能引发全局行为漂移，而在末尾追加具体的边界条件则相对安全66% 相似待验证越狱技术通过特定提示工程手段绕过模型内置安全护栏，使其输出本应被拒绝的内容66% 相似待验证行为克隆（BC）存在协变量偏移问题，训练时模型只见过专家轨迹的状态分布，部署时微小误差会使机器人进入训练集未覆盖的状态导致级联失败65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/717058API
curl https://kongchang.com/api/v1/knowledge/claims/717058MCP
get_claim(id=717058)