概念Threat Model
威胁模型
安全工程中系统化识别潜在攻击者、攻击路径和资产脆弱性的过程,传统上围绕恶意行为者展开,自主AI代理引入无恶意意图但可能造成实质伤害的自动化工具这一新主体。
时间轴 (近 90 天)
10月14日
如果Agent以完全置信度执行记忆中的凭证或权限,攻击者无需直接入侵系统,只需阻止或延迟更新传播,就能间接控制Agent的行为。
待验证50%
10月13日
论文的威胁模型前提是攻击者掌握完全相同的视觉语言编码器,并了解页面的几何布局。
待验证50%
10月12日
该研究推导的失真下限适用于一个全知攻击者:能观测整个参数轨迹、知道除目标记录外的所有训练样本、掌握训练数据的总体分布
待验证50%