待验证50% 置信注意事项精确时间
一旦注入内容包含敏感信息或错误前提，模型仍可能将其复述给客户，因此不能依赖模型忽略不相关注入。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证模型静默退化可由供应商更新模型、提示词被误改或上游数据分布变化引起，接口本身不会报错76% 相似待验证任何让指令和不可信数据共享同一上下文的场景（如提示注入、RAG、智能体）都存在模型可能遵循被告知要忽略信息的风险75% 相似待验证捕获异常后应将错误信息原封不动返回给大模型而非静默吞掉，使模型能够自我反思、调整格式并重试，提升 Agent 鲁棒性73% 相似待验证让模型仅凭 API 文档自行拼装请求的方式存在局限：可能幻构参数、忽略鉴权、错误处理不当，且需将完整文档塞入上下文导致上下文膨胀、增加成本降低准确率73% 相似待验证针对特定触发词的后门攻击可让模型在大多数情况下表现正常，仅在遇到特定输入时才输出预设错误信息，使常规评测基准难以捕捉73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1027010API
curl https://kongchang.com/api/v1/knowledge/claims/1027010MCP
get_claim(id=1027010)