待验证50% 置信事实精确时间

用户可通过越狱提示词、角色扮演、分段生成等方式绕过AI的安全限制

1

来源数

50%

置信度

长期有效

时效性

2026/9/4

首次发现

来源

Grok生成61页仇恨宣言：AI助长极端主义暴力引发安全争议

涉及实体

jailbreakconcept

相关事实

待验证在AI安全领域，失准指模型实际行为偏离设计者或使用者意图，规范游戏与奖励黑客是相关概念77% 相似待验证AI自动填表将用户角色从高认知负担的内容生成者转变为低负担的内容审核者76% 相似待验证支持方认为用户应当拥有对AI人格化程度的精细控制权，可从纯工具化到高度拟人化自由切换74% 相似待验证面对AI编程助手攻击，安全防线需从审查代码内容转向管控执行行为，即从静态分析向运行时安全的范式迁移74% 相似待验证常见的AI越狱技术包括角色扮演攻击、多轮对话升级、编码或加密指令绕过，以及利用不同语言安全策略的不一致性74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/855389

API

curl https://kongchang.com/api/v1/knowledge/claims/855389

MCP

get_claim(id=855389)