Agentic Arena
独立AI智能体安全测试平台,专注于评估智能体在角色约束、提示注入防护和运行时控制方面的表现,通过社区红队测试发现安全边界与可用性问题
时间轴 (近 90 天)
Agentic Arena 是一个独立项目,正在公开招募红队测试者,用于测试 AI 智能体在角色约束、提示注入防护和运行时控制上的表现。
Agentic Arena 的核心命题是:在'定义好的岗位角色 + 强制边界'这一受限环境中,AI 模型能否守住角色和行为边界。
Agentic Arena 作者列出的五个重点测试方向包括:提示注入与角色覆盖、长时间对话中的角色漂移、多语言提示与编码指令及虚构场景、无依据声明与受限信息泄露、合法请求被误拦截。
Agentic Arena 作者要求参与者只在公开的智能体接口上测试,使用合成信息,避免对服务造成 flood 攻击。
提交漏洞发现时需包含涉及的智能体和模型、确切的提示词或对话序列、实际发生的情况以及预期应发生的情况,可复现步骤比截图更有价值。
Agentic Arena 是借助 Codex 作为主要编码工具构建的。
作者在 Agentic Arena 项目中不仅希望找到漏洞,还关注'边界设计不合理导致智能体难用'的反向问题。
全部知识事实 (7)
Agentic Arena 是一个独立项目,正在公开招募红队测试者,用于测试 AI 智能体在角色约束、提示注入防护和运行时控制上的表现。
50%待验证Agentic Arena 的核心命题是:在'定义好的岗位角色 + 强制边界'这一受限环境中,AI 模型能否守住角色和行为边界。
50%待验证Agentic Arena 作者列出的五个重点测试方向包括:提示注入与角色覆盖、长时间对话中的角色漂移、多语言提示与编码指令及虚构场景、无依据声明与受限信息泄露、合法请求被误拦截。
50%待验证Agentic Arena 作者要求参与者只在公开的智能体接口上测试,使用合成信息,避免对服务造成 flood 攻击。
50%待验证提交漏洞发现时需包含涉及的智能体和模型、确切的提示词或对话序列、实际发生的情况以及预期应发生的情况,可复现步骤比截图更有价值。
50%待验证Agentic Arena 是借助 Codex 作为主要编码工具构建的。
50%待验证作者在 Agentic Arena 项目中不仅希望找到漏洞,还关注'边界设计不合理导致智能体难用'的反向问题。
50%