已过期50% 置信事实精确时间

卡内基梅隆大学的研究表明，即使是最先进的模型也可能被自动生成的对抗性输入所攻破

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30(已过期)

来源

Testing DeepSeek's Safety Mechanisms: Multiple Jailbreak Attempts Successfully Blocked

bilibili枫叶边城2026/6/15

相关事实

待验证某些越狱攻击的有效性来自于诱导模型进入特定吸引子状态，使输出在该框架内自我强化70% 相似待验证团队发现移除系统提示中的示例后模型效果反而提升，因为此前过度约束了模型65% 相似待验证如果模型只见过正样本，会倾向于对任何输入都强行调用工具，产生幻觉式调用，负样本帮助模型习得何时不该调用的判断边界65% 相似待验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为65% 相似待验证作者认为随着模型能力增强，过去用来规范模型行为的工具和提示词正逐渐成为负担，模型越强约束越该做减法65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/45498

API

curl https://kongchang.com/api/v1/knowledge/claims/45498

MCP

get_claim(id=45498)