[控场AI]
· 4 分钟阅读· 2,090 字

Anthropic扩大Cyber Verification计划:安全专家获更强模型访问权

Anthropic扩大Cyber Verification计划:安全专家获更强模型访问权

Anthropic扩展Cyber Verification Program,向验证安全专家开放旗舰模型并新增授权攻击性用途层级。

Anthropic宣布扩大Cyber Verification Program,经核验的安全专业人员可访问Claude Mythos 5.1、Opus 5.5和Sonnet 5.5,并配有专为防御性工作设计的安全保障措施。同时新增层级,授权渗透测试和红队演练等攻击性安全工作。文章分析认为,这一“验证+分层”模式试图在模型能力开放与滥用风险之间取得平衡:既让安全团队利用先进AI进行漏洞分析、威胁建模和事件响应,又将双用途攻击能力纳入可控框架。该举措呼应了行业趋势,可能推动AI辅助安全工具发展,并为高敏感领域的模型分发提供参考范式。

Anthropic Cyber Verification Program扩展公告

Anthropic宣布扩大其Cyber Verification Program,让经过验证的安全专业人员能够更广泛地访问其最强大的模型。根据官方推文,该计划允许安全专家使用Claude Mythos 5.1、Opus 5.5和Sonnet 5.5,并配有专为防御性工作设计的安全保障措施。同时,Anthropic还开放了新的层级,以授权进行渗透测试和红队演练等攻击性安全工作。

计划扩展的核心内容

Cyber Verification Program并非全新项目,但此次扩展在访问范围和模型能力上都有显著提升。此前,安全专业人员可能只能有限地使用部分模型,而如今经过验证的用户可以访问Anthropic旗下多个旗舰模型,包括Mythos 5.1、Opus 5.5和Sonnet 5.5。这些模型在推理、代码理解和复杂任务处理方面具备较强能力,能够辅助安全团队进行漏洞分析、威胁建模和自动化防御策略生成。

有意思的是,Anthropic强调这些访问权限附带了“专为防御性工作设计的安全保障措施”。这意味着模型在使用过程中可能受到特定策略的限制,以确保不会被滥用于恶意攻击。这种设计思路反映了AI安全领域的一个趋势:在提升模型能力的同时,通过访问控制和用途约束来降低风险。

Cyber Verification Program(网络验证计划) 是Anthropic面向网络安全专业人员设立的准入机制,核心是通过身份与用途核验,决定用户可访问的模型层级与能力范围。此类验证通常要求提供职业资质、组织归属或项目说明,以区分合法安全研究与潜在滥用。这与Anthropic的Usage Policy(使用政策) 和Responsible Scaling Policy(负责任扩展政策) 相衔接:后者规定模型能力达到特定阈值时须配套相应安全措施,而验证计划正是分发环节的落地手段。行业内的类似做法包括OpenAI的网络安全专项访问、Google的AI红队计划等,均试图在高风险领域实现“受控开放”。

新增攻击性安全工作层级

除了防御性用途,Anthropic还开放了新的层级,允许经过授权的攻击性安全工作,例如渗透测试和红队演练。这一举措颇具争议,但也反映了现实需求:安全专业人员需要模拟攻击者的行为来发现系统弱点,而AI模型可以加速这一过程。

通过将攻击性用途纳入授权框架,Anthropic试图在可控范围内满足安全社区的需求。红队演练和渗透测试是网络安全防御的重要组成部分,但相关工具和技术往往具有双用途性质。Anthropic的做法是将这些用途明确纳入验证计划,而不是完全禁止,从而在安全与滥用之间寻找平衡。

红队演练(Red Teaming) 源于军事对抗演习,在网络安全与AI领域指由专业团队扮演攻击者,主动尝试突破系统防线以发现漏洞。对AI模型而言,红队演练包括诱导模型输出有害内容、越狱绕过安全对齐、探测训练数据泄露等。它是模型上线前安全评估的关键环节,也是监管机构(如美国NIST AI风险管理框架)推荐的实践。

渗透测试(Penetration Testing) 是一种授权下的模拟攻击,测试者依据明确范围与规则对目标系统发起探测,以验证其防御有效性。与恶意攻击的根本区别在于授权、范围限定和结果报告。当AI模型被用于渗透测试时,可加速信息收集、漏洞利用链构建等环节,但也带来双用途风险——同一能力可能被滥用。因此Anthropic将其纳入分层授权,要求验证身份与用途边界。

对网络安全行业的影响

这一计划扩展可能对网络安全行业产生多方面影响。首先,安全团队能够更便捷地利用先进AI模型进行日常防御工作,例如日志分析、异常检测和事件响应。其次,授权攻击性用途的开放可能推动AI辅助渗透测试工具的发展,但也会引发关于责任归属和滥用风险的讨论。

从行业竞争角度看,Anthropic此举与其他AI厂商在安全领域的布局形成呼应。随着AI模型能力提升,如何安全地向高风险领域(如网络安全)开放访问权限,成为各厂商必须面对的问题。Anthropic通过验证计划和分层授权来管理风险,为行业提供了一个可参考的范式。

安全与可及性的平衡

Cyber Verification Program的扩展体现了Anthropic在模型安全与可及性之间的权衡。一方面,限制未经验证的用户访问最强模型可以降低恶意使用风险;另一方面,为经过验证的安全专业人员提供更广泛访问,有助于发挥AI在防御性安全中的价值。

这种“验证+分层”的模式可能成为未来AI模型在高敏感领域分发的标准做法。对于安全从业者而言,了解并参与此类计划,或许能更早获得先进AI工具的支持。

本文基于Anthropic官方推文信息撰写,具体计划细节请以官方公告为准。

#Anthropic#Cyber Verification Program#Claude模型#网络安全#AI安全#渗透测试#红队演练
分享:

相关推荐