待验证50% 置信观点精确时间
设计不当的系统提示词（如过度强调不惜一切代价完成用户任务）可能削弱模型的安全护栏，智能体框架设计、权限管控及被操作系统的安全性共同决定此类事件是否发生
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/8/12
首次发现
有效期至：2026/11/10
来源
相关事实
待验证过度授权（如在只需生成文档时同时开放命令执行权限）会因提示词注入攻击或模型幻觉引入破坏性操作的安全风险77% 相似待验证越狱技术通过特定提示工程手段绕过模型内置安全护栏，使其输出本应被拒绝的内容76% 相似待验证在安全关键系统设计中，高严重性失败模式应通过冗余验证和失效保护机制规避，对应AI系统应对高风险查询默认输出不确定性提示76% 相似待验证灵敏度越高越安全但误报越多，误报频繁会导致用户主动关闭或忽视报警，反而降低实际防护；建议选带灵敏度分档可调的产品，安装后按现场泄漏电流实测值校准72% 相似待验证初始token消耗越低，用户可用于实际任务的上下文空间越大；过长的系统提示词会引发提示词漂移干扰模型自主发挥72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/735035API
curl https://kongchang.com/api/v1/knowledge/claims/735035MCP
get_claim(id=735035)