概念uncovered capability map / 工具能力地图
能力地图
AI Agent安全领域的概念,指对Agent所有可调用工具按其实际业务能力(而非函数名称)进行分类和覆盖的映射体系,用于识别权限管控盲区和潜在绕路路径。
时间轴 (近 90 天)
10月9日
仅按函数名称或输出措辞做管控会存在未被堵住的旁路(未被覆盖的能力地图)
待验证50%
10月9日
应根据动作能改变什么来对能力进行分组,而不是根据函数名字分组
待验证50%
AI Agent安全领域的概念,指对Agent所有可调用工具按其实际业务能力(而非函数名称)进行分类和覆盖的映射体系,用于识别权限管控盲区和潜在绕路路径。
仅按函数名称或输出措辞做管控会存在未被堵住的旁路(未被覆盖的能力地图)
应根据动作能改变什么来对能力进行分组,而不是根据函数名字分组