[控场AI]
概念compositional failures

组合性失效

AI智能体安全领域的概念,指单个工具调用各自合规,但多个工具跨服务串联后整体效果产生意料之外危害的失效模式

来源文章