待验证50% 置信事实精确时间
黑箱攻击指攻击者在无法访问模型内部参数和结构的情况下，仅通过反复查询模型的输入输出来推断其决策边界并加以利用
1
来源数
50%
置信度
长期有效
时效性
2026/10/10
首次发现
来源
涉及实体
相关事实
待验证RAG架构引入了间接提示注入攻击面：攻击者只需在RAG检索的数据源中植入恶意指令即可操纵模型68% 相似待验证针对特定触发词的后门攻击可让模型在大多数情况下表现正常，仅在遇到特定输入时才输出预设错误信息，使常规评测基准难以捕捉65% 相似待验证间接提示注入攻击中，攻击者只需在RAG会检索到的数据源中植入恶意指令即可操纵模型，传统WAF无法拦截65% 相似待验证数据投毒攻击按攻击目标可分为可用性攻击和目标攻击，前者旨在降低模型整体性能，后者只在特定触发条件下改变模型行为64% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/994956API
curl https://kongchang.com/api/v1/knowledge/claims/994956MCP
get_claim(id=994956)