待验证50% 置信事实精确时间
一个对齐良好的系统如果鲁棒性不足，可能被精心构造的提示词绕过安全限制。
1
来源数
50%
置信度
长期有效
时效性
2026/10/29
首次发现
来源
涉及实体
相关事实
待验证“无崩溃性质”属于安全性属性，只约束“坏事不发生”，不要求“好事一定发生”；与之相对的功能正确性需要完整的输入-输出规范，证明难度高出一个量级。78% 相似待验证纵深防御原则要求系统安全性不应依赖于用户的完美操作，每一层工具都应假设上一层可能已被突破并提供独立的安全校验78% 相似待验证将安全边界设在提示词之外，不是对模型能力的不信任，而是对系统工程基本规律的尊重。77% 相似已验证提示级护栏（仅通过系统提示词约束智能体行为）本质上是脆弱的，更可靠的方向是在工具调用级别进行强制管控75% 相似待验证防御提示注入的可靠方案是架构层面的最小权限隔离：将处理不可信内容的步骤与具备工具权限的步骤物理分离，并在最后加一道人工确认。75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1112714API
curl https://kongchang.com/api/v1/knowledge/claims/1112714MCP
get_claim(id=1112714)