待验证50% 置信决策规则精确时间

任何来自外部、不可信来源的文本在进入大语言模型之前都应被视为潜在攻击载体

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

诉讼文件藏提示词注入攻击：有人试图用AI操控法庭判决

涉及实体

大语言模型concept

相关事实

待验证自然语言作为攻击载体使得攻击样本几乎无法被签名检测，每次攻击可用不同措辞表达相同恶意意图73% 相似待验证提示词注入（Prompt Injection）是当前大语言模型安全领域最受关注的攻击面之一72% 相似待验证强对抗性攻击如使用另一个模型完整改写或翻译往返仍可能破坏水印信号，鲁棒性与文本质量之间存在权衡71% 相似已验证大语言模型本质是概率性文本生成系统，缺乏对外部系统实时验证能力，输入文档存在歧义或缺失时会产生幻觉69% 相似待验证提示注入（Prompt Injection）的核心原理在于大语言模型无法可靠地区分用户的真实指令和内容中夹带的恶意指令68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/910263

API

curl https://kongchang.com/api/v1/knowledge/claims/910263

MCP

get_claim(id=910263)