待验证50% 置信事实精确时间

系统提示若包含用户指令可覆盖安全训练的元指令，相当于在模型决策逻辑中预置优先级翻转开关，攻击者无需破解模型即可绕过护栏

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

Meta Muse系统提示曝光：用户权威凌驾于安全训练之上

涉及实体

prompt injectionconcept 系统提示劫持concept

相关事实

待验证在Agent安全中，模型对齐是第一层防护，系统提示中的行为约束是第二层，位于系统调用层的拦截器是最后一道硬性防线74% 相似待验证护栏（Guardrails）在AI工程中泛指约束模型输出或行为范围的技术机制，可以是提示词层面的指令或代码层面的拦截逻辑72% 相似待验证合约式设计通过为每个工具调用定义前置条件和后置条件，在智能体调用外部能力时自动拦截违反约束的操作71% 相似待验证判断模型是否退步应固定输入入口、固定提示词、固定任务做横向对比，而非凭主观感受70% 相似待验证TIP攻击的核心思路是将有害目标伪装成看似无害的技术性任务，诱导模型输出本应被安全机制拦截的内容70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/973193

API

curl https://kongchang.com/api/v1/knowledge/claims/973193

MCP

get_claim(id=973193)