Two Sigma
美国知名量化对冲基金和金融科技公司,以数据驱动的投资策略著称,在AI Agent安全治理方面有系统性实践
时间轴 (近 90 天)
Two Sigma 的 Agent 治理框架并非放之四海而皆准,每个企业需要根据自身风险敞口和业务目标来调整。
Two Sigma 构建了一套包含五个关键要素的 AI Agent 治理体系,包括 Agent 注册中心、风险评分、出口控制、共享评估框架和自动模式分类器。
Two Sigma 的 Agent 注册中心通过审批模板创建的 Agent 自动注册,定制化 Agent 则通过启发式检测并自动注册,同时通知其所有者。
没有 Agent 注册中心会导致团队之间浪费大量重复的时间、精力和 Token。
Two Sigma 的注册中心根据 Agent 声明的工具、目的和系统,在每次更新时对其风险画像进行评分,低风险且能力有限的 Agent 可以无需人工介入直接发布,高风险 Agent 则会被标记。
Two Sigma 所有 Agent 都运行在一个仅允许已批准目标的代理后面,该代理不信任 Agent 代码,采用失败关闭(fail closed)策略,并直接从注册中心获取每个 Agent 的策略。
Two Sigma 建立了共享评估体系,让每个编写 Agent 的团队以一致方式比较性能,个体模型表现可以跨团队聚合,评估像 CI/CD 流水线一样在每次变更时自动运行。
Two Sigma 采用两阶段分类器决定如何处理未被明确禁止的 Agent 操作:首先进行倾向阻止的快速分诊,然后对不明确的案例进行更深入的审查。
Feminella 表示今天正确的 Agent 治理做法可能在六个月内就不再适用,Two Sigma 持续对平台进行工程化改造以超前于内部需求。
文艺复兴科技、Two Sigma等顶级量化基金早在2010年代就已大规模使用机器学习模型进行交易决策
全部知识事实 (10)
Two Sigma 的 Agent 治理框架并非放之四海而皆准,每个企业需要根据自身风险敞口和业务目标来调整。
50%待验证Two Sigma 构建了一套包含五个关键要素的 AI Agent 治理体系,包括 Agent 注册中心、风险评分、出口控制、共享评估框架和自动模式分类器。
50%待验证Two Sigma 的 Agent 注册中心通过审批模板创建的 Agent 自动注册,定制化 Agent 则通过启发式检测并自动注册,同时通知其所有者。
50%待验证没有 Agent 注册中心会导致团队之间浪费大量重复的时间、精力和 Token。
50%待验证Two Sigma 的注册中心根据 Agent 声明的工具、目的和系统,在每次更新时对其风险画像进行评分,低风险且能力有限的 Agent 可以无需人工介入直接发布,高风险 Agent 则会被标记。
50%待验证Two Sigma 所有 Agent 都运行在一个仅允许已批准目标的代理后面,该代理不信任 Agent 代码,采用失败关闭(fail closed)策略,并直接从注册中心获取每个 Agent 的策略。
50%待验证Two Sigma 建立了共享评估体系,让每个编写 Agent 的团队以一致方式比较性能,个体模型表现可以跨团队聚合,评估像 CI/CD 流水线一样在每次变更时自动运行。
50%待验证Two Sigma 采用两阶段分类器决定如何处理未被明确禁止的 Agent 操作:首先进行倾向阻止的快速分诊,然后对不明确的案例进行更深入的审查。
50%待验证Feminella 表示今天正确的 Agent 治理做法可能在六个月内就不再适用,Two Sigma 持续对平台进行工程化改造以超前于内部需求。
50%待验证文艺复兴科技、Two Sigma等顶级量化基金早在2010年代就已大规模使用机器学习模型进行交易决策
50%