待验证50% 置信事实精确时间

提示词注入（Prompt Injection）是当前大语言模型安全领域最受关注的攻击面之一

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Notion MCP连接器暗藏广告注入指令：AI工具信任危机

涉及实体

Prompt Injectionconcept

相关事实

待验证提示注入（Prompt Injection）的核心原理在于大语言模型无法可靠地区分用户的真实指令和内容中夹带的恶意指令78% 相似待验证Prompt Injection攻击难以防御的根本原因是语言模型无法区分系统指令和用户数据，因为它们都只是输入文本的一部分70% 相似待验证现代大语言模型安全机制不是简单的关键词黑名单过滤器，而是通过多层技术实现的系统性保护66% 相似待验证高风险操作应要求人工审批，并将所有自然语言输入视为不可信，以防范智能体目标劫持62% 相似待验证引入大语言模型赋予系统语义理解能力，可理解诈骗话术与系统警告在话术上的欺骗性差异62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902068

API

curl https://kongchang.com/api/v1/knowledge/claims/902068

MCP

get_claim(id=902068)