待验证50% 置信事实精确时间

OWASP将提示词注入列为大模型应用十大风险之首

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/27

首次发现

有效期至：2026/12/26

来源

企业AI安全防护指南：为什么传统防火墙保护不了你的AI

涉及实体

OWASPcompany 提示词注入concept

相关事实

待验证METR（前ARC Evals）专注于评估前沿模型的危险能力64% 相似待验证可解释性应根据风险分级设计：低风险场景用基础事后解释即可，中等风险需数据血统追踪，最高风险需将解释与具体个体挂钩62% 相似待验证Anthropic使用RSP框架评估模型的危险能力阈值，OpenAI使用Preparedness Framework，Google DeepMind使用Frontier Safety Framework61% 相似待验证ARC开发了一套模型评估(evals)框架，通过设计特定测试场景探测模型是否展现出危险行为倾向61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/954259

API

curl https://kongchang.com/api/v1/knowledge/claims/954259

MCP

get_claim(id=954259)