待验证50% 置信事实精确时间
系统提示是应用开发者注入的高优先级指令，但模型对系统提示的遵循只是统计倾向而非强制约束，系统提示无法成为可靠的信任边界。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
已验证大模型在处理上下文时缺乏天然的'指令来源可信度'区分机制，难以自动甄别哪些文字是可执行的授权指令，哪些只是应被处理的数据内容75% 相似待验证系统提示词是指导而非权限系统，权限必须在模型无法用话术绕过的地方强制执行，即运行时而非提示词中。73% 相似待验证作者发现将流程约束放在代码层（如tools.py中的REQUIRED）比放在提示词层更可靠，因为模型有时会跳过提示词要求的步骤直接作答。73% 相似待验证防御提示注入的根本在于架构层面的权限收窄，而非依赖模型的理解力，因为模型无法可靠区分指令边界；真正阻止越权操作的是服务器端的拒绝72% 相似待验证不应依赖系统提示词作为AI智能体的安全边界，提示词是建议而非强制72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1071252API
curl https://kongchang.com/api/v1/knowledge/claims/1071252MCP
get_claim(id=1071252)