待验证50% 置信事实精确时间

通过特定的提示词构造或系统层面的干预试图绕过模型安全约束的行为在AI安全研究领域被称为越狱（Jailbreak）

1

来源数

50%

置信度

长期有效

时效性

2026/9/21

首次发现

来源

AI越狱风险探讨：模型安全边界与内容审核机制解析

涉及实体

Jailbreakconcept

相关事实

已验证AI存在安全与对齐限制，有时合法需求也会被误判拦截74% 相似待验证具备漏洞发现能力的AI模型可能让不具备深厚安全知识的人发现并利用漏洞，降低攻击门槛73% 相似待验证请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图73% 相似已验证谄媚行为被AI安全和对齐领域视为重要研究方向73% 相似待验证AI减速现象可以用经典的囚徒困境（Prisoner's Dilemma）框架来解释，而非单纯的伪善72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/937997

API

curl https://kongchang.com/api/v1/knowledge/claims/937997

MCP

get_claim(id=937997)