待验证50% 置信事实精确时间
Resk的过滤策略会将典型注入短语(如“ignore previous instructions”“system prompt”)编译为token禁令,通过resklogits在logits层面屏蔽。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
用Resk防火墙抵御间接提示注入:旅行助手安全实战
rss2026/10/17
涉及实体
相关事实
待验证应假设系统提示词一定会泄露,不应将任何机密信息放入系统提示词,并针对canary及敏感字符串增加输出过滤62% 相似待验证由于恶意指令大量来自RAG检索内容和工具响应,仅在输入入口设防会漏掉绝大部分攻击面62% 相似待验证针对自生成提示注入,传统的输入过滤和来源白名单防御手段几乎无效,需要在智能体架构层面重新设计针对模型自产内容的验证机制62% 相似待验证工具应在封锁时返回明确错误信息(如“所有代理节点当前均被目标主机限流”),让LLM将失败视为不可恢复状态,进而切换策略而非重试。62% 相似待验证多轮对话中带指代的省略式查询直接做向量检索效果差,常用查询重写借助LLM改写成自包含查询62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1052012API
curl https://kongchang.com/api/v1/knowledge/claims/1052012MCP
get_claim(id=1052012)