待验证50% 置信definition精确时间
提示注入指攻击者把恶意指令藏在代理会读取的内容里，使代理误当作合法任务执行，从而让‘当前模型是善意的’假设不再可靠。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
已验证自生成的提示注入是一种安全隐患，注入指令来自模型自己而非外部攻击者78% 相似待验证Agent Vault 应对提示注入的思路不是提升模型识别能力，而是让代理上下文中只有模拟令牌，从而将提示注入从数据泄露事件降级为一次失败的表单提交。78% 相似待验证错误级联指一个 Agent 的错误输出被下游 Agent 当作可信输入继续处理，防止方法之一是允许下游 Agent 主动拒绝接受不确定结论（如返回数据不足触发人工回退）77% 相似已验证被恶意提示注入（prompt injection）或误导的内部智能体，可能在拥有合法权限的前提下执行危险操作75% 相似待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1103014API
curl https://kongchang.com/api/v1/knowledge/claims/1103014MCP
get_claim(id=1103014)