待验证50% 置信注意事项精确时间
模型可能因上下文理解偏差生成语义正确但行为危险的命令，例如将rm -rf ./tmp扩展为rm -rf /，或在SQL更新语句中遗漏WHERE子句
1
来源数
50%
置信度
长期有效
时效性
2026/10/7
首次发现
来源
涉及实体
相关事实
待验证提示注入通过将恶意指令嵌入模型处理的外部内容中，试图覆盖系统提示词，诱使模型执行未授权操作，逻辑上与SQL注入类似69% 相似待验证LLM在修改阶段可指出逻辑跳跃、冗余句子或检查论点是否缺少支撑68% 相似待验证提示词与模型版本存在深度绑定关系，不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出，这种现象被称为「提示词漂移」66% 相似待验证LLM在对话中依赖上下文动态推理能临场识别异常，但生成的代码脚本固化后逻辑分支是静态的，无法感知未见过的数据模式，这被称为分布偏移（Distribution Shift）66% 相似已验证LLM的输出具有天然的非确定性，即使输入相同的Prompt，模型在不同时刻可能返回格式、内容甚至逻辑不同的结果65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/985742API
curl https://kongchang.com/api/v1/knowledge/claims/985742MCP
get_claim(id=985742)