人物
sunnydachs
独立开发者,从事AI代理安全方向的研究与实验,开源了gate-bench测试框架
时间轴 (近 90 天)
10月19日
开发者sunnydachs在三个代理框架上进行了1800次实验,测试四种权限门(无门、规则门、LLM审查门、概率门)对间接提示注入攻击的拦截效果。
待验证50%
10月19日
作者指出实验局限包括:事件计数小(每个单元格仅1到4次)、只用一个代理模型和一个随机种子、决策模型与代理均为通用模型、语料为微型虚构公司仅结构类比。
待验证50%
独立开发者,从事AI代理安全方向的研究与实验,开源了gate-bench测试框架
开发者sunnydachs在三个代理框架上进行了1800次实验,测试四种权限门(无门、规则门、LLM审查门、概率门)对间接提示注入攻击的拦截效果。
作者指出实验局限包括:事件计数小(每个单元格仅1到4次)、只用一个代理模型和一个随机种子、决策模型与代理均为通用模型、语料为微型虚构公司仅结构类比。