待验证50% 置信事实精确时间

当模型接收到被投毒的输入（prompt injection或间接注入）时，可能被诱导执行用户从未授权的动作

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

端侧AI智能体的身份验证难题：谁在为Agent的行为负责？

涉及实体

Prompt Injectionconcept

相关事实

已验证提示注入分为直接注入（用户直接操控模型行为）和间接注入（通过外部数据源污染上下文）两类69% 相似已验证提示注入是一种针对大语言模型的攻击手法，攻击者通过在模型输入数据中嵌入恶意指令劫持模型的正常行为67% 相似待验证后门攻击在训练数据中植入触发器，使模型在正常输入下表现正常，遇到特定触发词时产生预设的恶意输出66% 相似待验证某些越狱攻击的有效性来自于诱导模型进入特定吸引子状态，使输出在该框架内自我强化64% 相似待验证Agent的行为受模型概率输出影响，同样的用户请求可能因温度参数、上下文窗口或模型版本差异走向不同执行路径64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/958267

API

curl https://kongchang.com/api/v1/knowledge/claims/958267

MCP

get_claim(id=958267)