待验证50% 置信观点精确时间
该研究将LLM安全讨论从“模型说了什么”扩展到“模型如何说”,指出用户分享的每一段模型生成文本都可能成为信息泄露的载体。
1
来源数
50%
置信度
长期有效
时效性
2026/11/13
首次发现
来源
涉及实体
相关事实
待验证在 LLM 代理场景中,模型将工具描述字段视为自身配置的一部分来遵循,结果字段则视为外部数据处理,这种信任层级差异导致同一文本在不同字段中的注入风险不同。72% 相似待验证模型的行为由训练数据、提示词、上下文和外部工具调用共同塑造,任何一环被污染或滥用都可能导致有害输出、敏感信息泄露或越权操作。69% 相似待验证系统提示词泄露源于模型的工作原理——模型会读取并复述其面前的文本,而不是某个可以被修补的代码缺陷。69% 相似待验证LLM生成回答时涉及多个层次的信息来源:模型权重中已编码的知识、实时检索到的网页内容、以及通过引用和共识机制筛选出的可信信息。69% 相似待验证模型会把系统提示词中设定的内容当作关于角色的叙事真相来吸收,因此对话样例需充满事实性表述68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1166005API
curl https://kongchang.com/api/v1/knowledge/claims/1166005MCP
get_claim(id=1166005)