待验证50% 置信注意事项精确时间

精心构造的提示词可能诱导模型生成看似合法、却把表单数据提交到攻击者服务器的 UI 树，而用户在视觉上无从分辨

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

AI生成UI的安全防线：用TypeScript构建组件校验门

涉及实体

Intelligent UIconcept

相关事实

待验证间接提示注入将攻击向量藏在模型读取的外部文档或网页中，用户本人并不知情77% 相似待验证间接提示词注入特指攻击者通过模型会主动检索的外部内容实施攻击，危险性更高76% 相似待验证智能体无法天然区分数据与指令，这使提示注入威胁在智能体浏览网页或处理用户上传内容的场景下尤为突出74% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改72% 相似待验证针对自生成提示注入，传统的输入过滤和来源白名单防御手段几乎无效，需要在智能体架构层面重新设计针对模型自产内容的验证机制69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1000854

API

curl https://kongchang.com/api/v1/knowledge/claims/1000854

MCP

get_claim(id=1000854)