待验证50% 置信事实精确时间

大型语言模型在架构层面没有天然的指令/数据分层机制，无法区分合法指令与文档中的普通文字

1

来源数

50%

置信度

长期有效

时效性

2026/7/11

首次发现

来源

GPT-5.6 Sol有限预览，AI能力扩张背后的安全边界

bilibili江枫渔火AI2026/7/9

相关事实

待验证大语言模型在设计上难以严格区分系统指令与用户数据，这是其架构层面的根本性缺陷78% 相似待验证大型语言模型本身只能生成文本，无法直接操作文件系统或网络，实际执行能力依赖开发框架预先注册的工具函数76% 相似已验证提示注入的根本原因在于大语言模型缺乏区分指令层与数据层的原生机制76% 相似待验证大语言模型在推理时无法可靠区分系统指令与用户/外部内容的边界，这是提示词注入的根本性局限，与SQL注入原理相似73% 相似待验证代码的语义结构与自然语言存在本质差异，导致嵌入模型难以准确保留标识符命名、调用关系、作用域等信息73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/487544

API

curl https://kongchang.com/api/v1/knowledge/claims/487544

MCP

get_claim(id=487544)