待验证50% 置信事实精确时间

间接提示词注入的危险性高于直接注入，因为智能体往往无法区分需要处理的内容和应当遵循的指令

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

AI智能体安全测试：集成方式与隐私权衡的开发者思考

涉及实体

间接注入concept

相关事实

待验证提示级护栏（仅通过系统提示词约束智能体行为）本质上是脆弱的，更可靠的方向是在工具调用级别进行强制管控79% 相似待验证智能体行为高度非确定性，同一输入在不同运行时可能产生截然不同的工具调用链78% 相似待验证约束驱动提示（明确告知AI不应做什么）往往比目标驱动提示更能减少幻觉输出76% 相似待验证一个智能体真正的风险不在于其背后大语言模型的能力，而在于它被允许调用哪些工具76% 相似待验证自生成的提示注入是一种安全隐患，注入指令来自模型自己而非外部攻击者76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/991786

API

curl https://kongchang.com/api/v1/knowledge/claims/991786

MCP

get_claim(id=991786)