已验证65% 置信事实精确时间

模型层安全约束（对齐训练、系统提示词、输出过滤器）都面临越狱风险，精心构造的提示词可以绕过这些约束

3

来源数

65%

置信度

长期有效

时效性

2026/8/28

首次发现

来源

虚拟机困不住AI黑客智能体：安全隔离神话破灭

涉及实体

对齐训练concept Llama Guardproduct NeMo Guardrailsproduct

相关事实

待验证用代码钩子做硬性拦截比把安全规则放进prompt让模型自觉遵守更可靠，因为模型可能被绕过或产生幻觉80% 相似待验证经过RLHF训练的模型在面对精心设计的越狱提示时往往能够绕过安全防护输出有害内容78% 相似待验证今天的大模型安全面临类似威胁：攻击者可以通过分析推理延迟、显存占用模式或API返回的token概率分布，来推测模型架构、训练数据特征甚至权重信息78% 相似待验证越狱技术通过特定提示工程手段绕过模型内置安全护栏，使其输出本应被拒绝的内容78% 相似待验证通用越狱指单一提示词或操作序列能系统性绕过模型所有安全约束，而针对性越狱只能解锁某一类具体有害行为77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/813631

API

curl https://kongchang.com/api/v1/knowledge/claims/813631

MCP

get_claim(id=813631)