MobileInject
首个针对移动智能体多模态注入攻击与推理到行动安全风险的评测基准,提供高保真交互式移动环境,包含多类场景、安全风险类别和可执行风险实例。
时间轴 (近 90 天)
MobileInject 是首个针对移动智能体多模态注入攻击与'推理到行动'安全风险的评测基准。
MobileInject 提供包含 11 类场景、9 个安全风险类别、108 个可执行风险实例的高保真交互式移动评测环境。
MobileInject 提出 Cross-Modal Consistency Injection(跨模态一致性注入),其核心思路是让恶意指令在多个模态中互相佐证以降低智能体警惕。
MobileInject 配套的 Reasoning Security Diagnosis Framework 用于对失败案例做细粒度归因,判断问题出在感知、推理还是行动环节。
系统实验表明移动智能体普遍容易受到多模态注入攻击,且大量失败源于推理早期的劫持而非最后的点击动作。
MobileInject 代码发布信息见论文附录开放科学部分。
全部知识事实 (6)
MobileInject 是首个针对移动智能体多模态注入攻击与'推理到行动'安全风险的评测基准。
50%待验证MobileInject 提供包含 11 类场景、9 个安全风险类别、108 个可执行风险实例的高保真交互式移动评测环境。
50%待验证MobileInject 提出 Cross-Modal Consistency Injection(跨模态一致性注入),其核心思路是让恶意指令在多个模态中互相佐证以降低智能体警惕。
50%待验证MobileInject 配套的 Reasoning Security Diagnosis Framework 用于对失败案例做细粒度归因,判断问题出在感知、推理还是行动环节。
50%待验证系统实验表明移动智能体普遍容易受到多模态注入攻击,且大量失败源于推理早期的劫持而非最后的点击动作。
50%待验证MobileInject 代码发布信息见论文附录开放科学部分。
50%