待验证50% 置信事实精确时间
在 LLM 代理场景中,模型将工具描述字段视为自身配置的一部分来遵循,结果字段则视为外部数据处理,这种信任层级差异导致同一文本在不同字段中的注入风险不同。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证间接提示注入比直接注入更难防御,因为攻击载体隐藏在模型应该信任的外部内容里,利用了 LLM 将指令与数据混合处理的根本特性75% 相似待验证LLM裁判模型继承了自己训练数据中的偏见,可能系统性偏好某种语气、长度或表达风格,因此该审计框架把裁判模型名称单独记录为一个字段以实现透明化。75% 相似待验证论文让LLM在目标模型上下文中解读每个变体的文本叙述并分配到最合适类别,用LLM的语义推理能力连接底层流程行为与高层业务目标73% 相似待验证LLM agent 的证据循环依赖两种能力:工具调度(知道何时调用哪个逆向工具、传什么参数)与语义理解(读懂伪代码背后的设计意图)。71% 相似待验证LLM在表格场景中更适合承担辅助角色,如特征工程、解释预测结果、处理文本字段、数据清洗,最终预测建模仍由树模型承担71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1057945API
curl https://kongchang.com/api/v1/knowledge/claims/1057945MCP
get_claim(id=1057945)