OWASP LLM Top 10
OWASP组织发布的针对大型语言模型应用的十大安全风险清单,涵盖提示注入、不安全输出处理、数据投毒等核心安全威胁,是LLM应用安全实践的重要参考标准
核心事实
时间轴 (近 90 天)
自动化评估无需任何前置信息即可探索Agent,并大规模运行越狱、提示注入、多轮施压等对抗性测试,这些攻击覆盖OWASP LLM Top 10及Agent应用安全清单。
OWASP LLM Top 10 明确指出提示词注入防御必须多层化:从隔离不可信内容到语义过滤。
OWASP LLM Top 10 聚焦大模型应用典型风险(如提示注入 LLM01、不安全输出处理 LLM02、过度代理 LLM08),是应用层视角的框架。
Stonepath IT 的每一项发现都同时标注 MITRE ATLAS 技术编号、OWASP LLM Top 10 风险分类和 NIST AI RMF 治理控制项。
报告中同时映射到OWASP LLM Top 10和MITRE ATLAS能让不同背景的审查员各取所需,并便于接入已有的漏洞管理和威胁情报流程。
OWASP LLM Top 10 偏向风险分类与合规对标,MITRE ATLAS 偏向攻击行为建模。
OWASP将提示注入列为LLM Top 10的首位风险(LLM01)
MITRE开发了ATLAS框架,将AI系统面临的攻击技术系统化分类为侦察、资源开发、初始访问、执行、持久化等阶段,类似于ATT&CK矩阵
全部知识事实 (9)
OWASP已将Prompt注入列为LLM应用十大安全风险之首
80%已验证OWASP将提示注入列为LLM Top 10的首位风险(LLM01)
70%已验证MITRE开发了ATLAS框架,将AI系统面临的攻击技术系统化分类为侦察、资源开发、初始访问、执行、持久化等阶段,类似于ATT&CK矩阵
65%待验证自动化评估无需任何前置信息即可探索Agent,并大规模运行越狱、提示注入、多轮施压等对抗性测试,这些攻击覆盖OWASP LLM Top 10及Agent应用安全清单。
50%待验证OWASP LLM Top 10 明确指出提示词注入防御必须多层化:从隔离不可信内容到语义过滤。
50%待验证OWASP LLM Top 10 聚焦大模型应用典型风险(如提示注入 LLM01、不安全输出处理 LLM02、过度代理 LLM08),是应用层视角的框架。
50%待验证Stonepath IT 的每一项发现都同时标注 MITRE ATLAS 技术编号、OWASP LLM Top 10 风险分类和 NIST AI RMF 治理控制项。
50%待验证报告中同时映射到OWASP LLM Top 10和MITRE ATLAS能让不同背景的审查员各取所需,并便于接入已有的漏洞管理和威胁情报流程。
50%待验证OWASP LLM Top 10 偏向风险分类与合规对标,MITRE ATLAS 偏向攻击行为建模。
50%