[控场AI]
概念SA-CUA框架 / SA-CUA双LLM框架

SA-CUA

一种面向Computer Use Agent的双LLM安全框架,通过从无障碍树中提取确定性规则建立信任边界,并设计背书通道允许不可信信息经验证后安全进入可信域,以防御间接提示注入攻击。

时间轴 (近 90 天)

10月14日

SA-CUA 是一个双LLM框架,用于为电脑使用Agent建立可信边界,其核心是从无障碍树中推导出保守的确定性规则,在特权LLM的截图上隔离可信内容和不可信内容。

待验证50%
10月14日

SA-CUA 在保持攻击成功率为零的同时,实用性远高于 CaMeL-CUA。

待验证50%
10月14日

SA-CUA 设计了一条背书通道,允许值从不可信域传递到可信域,但前提是通过可信渠道对信息进行验证。

待验证50%
10月14日

SA-CUA 只在任务开始时需要人类交互来指定任务目标,一旦任务启动,Agent可以自主运行。

待验证50%
10月14日

部分应用(尤其是自绘UI的游戏、部分桌面软件)无障碍信息稀疏甚至缺失,此时SA-CUA的规则推导会失效,需要退回其他机制。

待验证50%
10月14日

SA-CUA 高度依赖无障碍树的质量和覆盖率,对于无障碍信息不完整的应用或界面,规则推导的有效性需要进一步验证。

待验证50%

全部知识事实 (6)

来源文章