[控场AI]
概念Conflict of Skills Attack

CoSA

针对LLM Agent技能组合的权限越界攻击方法,通过向技能池注入少量本地准入的新Skill,利用跨Skill依赖在既有运行时权限内触发策略违规,无需篡改现有Skills或权限

时间轴 (近 90 天)

10月27日

CoSA 的核心思路包括能力补充(capability supplementation,补齐缺失的业务操作)与关系重塑(relationship reshaping,改变工件交换、决策复用、目标/动作绑定)。

待验证50%
10月27日

在跨五个 LLM 和三种 Agent harness 的测试中,新增 Skills 上限仅为每个原始池的 5%,策略违规率就从 35.02% 提升到 58.45%,增加了 23.43 个百分点。

待验证50%
10月27日

轨迹分析将合规到违规的转变明确关联到涉及新增 Skills 的跨 Skill 依赖上。

待验证50%
10月27日

传统权限检查通常针对单个动作或单个 Skill,而非跨 Skill 的信息流与授权传递,因此运行时权限的静态合规不等于组合安全,需要引入动态的、跨边界的授权验证机制。

待验证50%

全部知识事实 (4)

来源文章