待验证50% 置信事实精确时间

后门攻击在训练数据中植入触发器，使模型在正常输入下表现正常，遇到特定触发词时产生预设的恶意输出

1

来源数

50%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

AI智能体安全攻防实战：7大攻击手法与五层防御体系

bilibiliAI课堂2026/7/9

相关事实

已验证提示注入是一种针对大语言模型的攻击手法，攻击者通过在模型输入数据中嵌入恶意指令劫持模型的正常行为76% 相似待验证某些越狱攻击的有效性来自于诱导模型进入特定吸引子状态，使输出在该框架内自我强化73% 相似待验证若训练数据完全由正样本构成，模型会倾向于对任何输入都强行调用工具，产生幻觉式调用72% 相似待验证提示注入利用的是模型无法可靠区分「数据」与「指令」的天然缺陷，这一缺陷根植于LLM的训练机制本身70% 相似待验证通过激活修补（Activation Patching）等因果分析方法可以发现，真正影响模型最终输出的内部路径与书面推理并不吻合70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/501426

API

curl https://kongchang.com/api/v1/knowledge/claims/501426

MCP

get_claim(id=501426)