待验证50% 置信事实精确时间
语言模型往往难以严格区分'系统提示中的规则'和'用户消息中的新指令'。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
已验证大语言模型在设计上难以严格区分系统指令与用户数据，这是其架构层面的根本性缺陷77% 相似待验证系统提示词的语言选择会影响输出风格，当系统提示词语言与用户输入语言不一致时会产生行为叠加效应77% 相似待验证大语言模型在推理时无法可靠区分系统指令与用户/外部内容的边界，这是提示词注入的根本性局限，与SQL注入原理相似76% 相似待验证将评分规则写入 prompt 自然语言存在缺陷：不同次调用措辞差异可能导致模型理解偏移，且评分逻辑无法被程序直接解析或复用75% 相似待验证自然语言接口本身也可能成为新的不透明层：用户不知道自己的描述被模型如何解读，也不知道兴趣列表在排序中占多大权重。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029603API
curl https://kongchang.com/api/v1/knowledge/claims/1029603MCP
get_claim(id=1029603)