待验证70% 置信事实精确时间

请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图

2

来源数

70%

置信度

长期有效

时效性

2026/8/15

首次发现

来源

DeepSeek写游戏外挂？AI辅助逆向工程技术解析

相关事实

已验证AI对齐的核心挑战包括目标错配、可解释性缺失、能力泛化风险79% 相似已验证AI安全防御存在天然非对称性：有害请求可用近乎无限种方式表达，防御方需覆盖所有攻击变体，而攻击方只需找到一个漏洞79% 相似已验证AI存在安全与对齐限制，有时合法需求也会被误判拦截77% 相似已验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题77% 相似待验证AI在拆分需求的同时进行需求评审，不主动修改需求，而是标记表述不明确、存在歧义的地方77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/754426

API

curl https://kongchang.com/api/v1/knowledge/claims/754426

MCP

get_claim(id=754426)