待验证50% 置信事实精确时间

大语言模型在推理时无法可靠区分系统指令与用户/外部内容的边界，这是提示词注入的根本性局限，与SQL注入原理相似

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

智能代理：让AI编程助手安全自主运行的关键架构

相关事实

已验证提示注入的根本原因在于大语言模型缺乏区分指令层与数据层的原生机制79% 相似待验证大语言模型在设计上难以严格区分系统指令与用户数据，这是其架构层面的根本性缺陷79% 相似已验证大语言模型推理的瓶颈往往不在计算能力，而在于内存带宽78% 相似已验证当前大语言模型在系统编程领域呈现出高频知识强、长尾知识弱的特征，对边缘语义和特定版本兼容性行为倾向于合理推断而非严格遵循规范76% 相似待验证大语言模型存在'指令遵循'（Instruction Following）问题，这是其固有局限性75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/533469

API

curl https://kongchang.com/api/v1/knowledge/claims/533469

MCP

get_claim(id=533469)