[控场AI]
人物

sunnydachs

独立开发者,从事AI代理安全方向的研究与实验,开源了gate-bench测试框架

时间轴 (近 90 天)

10月19日

开发者sunnydachs在三个代理框架上进行了1800次实验,测试四种权限门(无门、规则门、LLM审查门、概率门)对间接提示注入攻击的拦截效果。

待验证50%
10月19日

作者指出实验局限包括:事件计数小(每个单元格仅1到4次)、只用一个代理模型和一个随机种子、决策模型与代理均为通用模型、语料为微型虚构公司仅结构类比。

待验证50%

全部知识事实 (2)

来源文章