待验证50% 置信注意事项精确时间

到达模型的外部文本（邮件、网页、webhook）可能携带针对模型的注入指令，因此模型输出永远不应直接触发删除、发送或支付，中间应放白名单或代码检查

1

来源数

50%

置信度

长期有效

时效性

2026/9/28

首次发现

来源

AI工作流最致命陷阱：假JSON为何还能返回成功？

涉及实体

提示词注入concept

相关事实

待验证模型输出的工具调用请求本质上仍是文本，真正的网络请求、数据库查询或代码执行始终由外部运行时（Runtime）完成69% 相似待验证提示词注入可分为直接注入和间接注入，间接注入通过被模型读取的外部文档、网页等传递指令66% 相似待验证Chain-of-Thought提示只能在模型内部进行符号推演，无法获取实时信息、执行计算或操作文件系统66% 相似待验证外部消息接入支持直连模式（原样转发）和 AI 问答模式（消息先经文本模型转换处理）两种模式64% 相似待验证「LLM + 工具调用」模式中，模型本身不直接操作文件，而是输出结构化指令，由确定性代码完成实际执行64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/955878

API

curl https://kongchang.com/api/v1/knowledge/claims/955878

MCP

get_claim(id=955878)