待验证50% 置信事件精确时间
2023年以来，已有多起公开案例表明，即使是经过安全对齐的商业模型，也无法完全抵御精心构造的注入攻击
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/2
首次发现
有效期至：2026/12/1
来源
涉及实体
相关事实
待验证2024年已出现多起因Agent权限过宽导致的安全事件，包括Agent误删生产环境配置文件和通过提示注入被诱导执行恶意命令67% 相似待验证使用无审查模型进行未经授权的攻击活动在大多数司法管辖区属于违法行为61% 相似待验证当前技术成熟度下，完全取消 Agent 的人工审批仍被认为是高风险做法59% 相似待验证斯坦福 CRFM 于 2024 年发布的《Agent Security Benchmark》报告指出，主流代理框架如 LangChain、AutoGPT 普遍未实现有效的权限分离，95% 以上的代理场景存在权限过度授予问题58% 相似待验证一旦模型权重公开发布，安全限制可通过微调被移除，研究表明仅需少量（有时不到100条）有害指令-响应对配合LoRA等技术即可去除安全限制56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/842351API
curl https://kongchang.com/api/v1/knowledge/claims/842351MCP
get_claim(id=842351)