[控场AI]
产品

Agentic Arena

独立AI智能体安全测试平台,专注于评估智能体在角色约束、提示注入防护和运行时控制方面的表现,通过社区红队测试发现安全边界与可用性问题

时间轴 (近 90 天)

10月15日

Agentic Arena 是一个独立项目,正在公开招募红队测试者,用于测试 AI 智能体在角色约束、提示注入防护和运行时控制上的表现。

待验证50%
10月15日

Agentic Arena 的核心命题是:在'定义好的岗位角色 + 强制边界'这一受限环境中,AI 模型能否守住角色和行为边界。

待验证50%
10月15日

Agentic Arena 作者列出的五个重点测试方向包括:提示注入与角色覆盖、长时间对话中的角色漂移、多语言提示与编码指令及虚构场景、无依据声明与受限信息泄露、合法请求被误拦截。

待验证50%
10月15日

Agentic Arena 作者要求参与者只在公开的智能体接口上测试,使用合成信息,避免对服务造成 flood 攻击。

待验证50%
10月15日

提交漏洞发现时需包含涉及的智能体和模型、确切的提示词或对话序列、实际发生的情况以及预期应发生的情况,可复现步骤比截图更有价值。

待验证50%
10月15日

Agentic Arena 是借助 Codex 作为主要编码工具构建的。

待验证50%
10月15日

作者在 Agentic Arena 项目中不仅希望找到漏洞,还关注'边界设计不合理导致智能体难用'的反向问题。

待验证50%

全部知识事实 (7)

来源文章