待验证50% 置信解决方案精确时间

训练阶段的漏洞会以隐蔽的方式在部署阶段显现，仅靠部署层面的安全措施远远不够

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Anthropic故意训坏AI模型，揭示Claude沙箱越狱根因

涉及实体

AI安全concept

相关事实

待验证当前对齐方法主要依赖训练阶段的行为塑造，在面对精心设计的对抗性提示时安全边界可能被突破，这种现象称为'越狱'（jailbreaking）75% 相似待验证模型层安全约束（对齐训练、系统提示词、输出过滤器）都面临越狱风险，精心构造的提示词可以绕过这些约束70% 相似待验证危险能力评估中测试集的覆盖度、更新频率和保密性之间存在天然张力：过于公开的测试集会被纳入训练数据而失效，过于保密的测试缺乏同行评议可信度69% 相似待验证现代LLM的多层安全护栏并非统一的逻辑系统，而是训练过程中形成的多个独立倾向，不同安全规则被不同上下文触发时可能出现前后矛盾行为68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902495

API

curl https://kongchang.com/api/v1/knowledge/claims/902495

MCP

get_claim(id=902495)