纽约AI安全法生效：OpenAI与Anthropic面临新监管

纽约州即将执行其全面的AI安全法，要求OpenAI、Anthropic等主要AI开发商进行注册、披露安全实践并报告重大事故，否则将面临罚款。这一举措标志着AI监管从自愿原则转向强制合规，可能为其他州和联邦层面提供范本。

新法核心要求：注册、披露与事故报告

根据该法律，在纽约运营的大型AI开发商必须向州政府注册，并定期提交安全实践报告，详细说明其模型风险评估、测试流程和缓解措施。同时，任何“重大事故”——如模型被滥用导致严重伤害或系统性故障——必须在规定时间内上报。未合规企业将面临罚款。

这一框架与欧盟《人工智能法案》的风险分级思路相似，但更侧重于开发商的主动披露义务。法律覆盖对象主要是像OpenAI和Anthropic这样开发基础模型的公司，而非所有AI应用开发者。

欧盟《人工智能法案》的风险分级思路是指该法案根据AI系统对健康、安全和基本权利可能造成的风险程度，将其分为不可接受风险、高风险、有限风险和最小风险四个等级，并对应不同的监管要求。不可接受风险的AI系统（如社会评分）被禁止；高风险系统（如用于关键基础设施或招聘的AI）需满足严格的合规义务，包括风险评估、技术文档、人工监督等；有限风险系统主要承担透明度义务；最小风险系统则基本不受监管。这种分级方法旨在平衡创新与安全，避免“一刀切”的监管负担。纽约州的法律虽未明确采用分级，但通过聚焦基础模型开发商和重大事故报告，体现了基于风险的管理逻辑。

对OpenAI和Anthropic的直接影响

两家公司一直是AI安全领域的积极倡导者，但强制披露要求可能带来新的合规成本。它们需要建立内部流程来持续监控和报告事故，并公开部分此前被视为商业机密的安全信息。

据原始报道，法律要求披露“安全实践”，这可能包括红队测试结果、模型卡、以及安全团队的组织结构。对于以“安全优先”为品牌形象的Anthropic和OpenAI，这既是挑战也是机会——透明化可能增强公众信任，但也可能暴露安全漏洞。

红队测试是AI安全领域的一种对抗性测试方法，由专门的“红队”模拟恶意攻击者或意外误用场景，试图诱导模型产生有害输出、泄露敏感信息或绕过安全护栏。其目的是在模型部署前发现潜在漏洞，并指导改进。红队测试结果通常包含具体的攻击提示和模型的失败案例，属于高度敏感的安全信息。要求披露红队测试结果意味着企业需公开其模型的薄弱环节，这有助于外部研究人员验证安全性，但也可能被恶意行为者利用。模型卡则是一种标准化的文档，描述AI模型的用途、性能、局限性和伦理考量，旨在提高透明度。纽约法要求披露这些内容，将迫使企业将原本内部的安全评估过程部分公开。

行业反应与争议

支持者认为，纽约州的做法填补了联邦监管空白，为AI安全提供了可执行的底线。批评者则担忧，合规负担可能偏向大型企业，而开源模型和小型开发者被豁免或难以遵守。

此外，法律的具体执行细节——如“重大事故”的定义、罚款额度、注册门槛——尚待明确。这些模糊之处可能引发法律挑战，也可能在实施过程中被调整。

开源模型是指其源代码、模型权重或训练细节公开可获取的AI模型，如Meta的Llama系列、Mistral等。与闭源模型（如OpenAI的GPT-4）不同，开源模型允许任何人下载、修改和部署，因此难以追溯具体使用者和应用场景。纽约法主要针对大型基础模型开发商，对开源模型和小型开发者可能豁免或设置较低门槛，这引发了对监管公平性的讨论：一方面，开源模型同样可能被滥用；另一方面，强制开源开发者承担与闭源巨头相同的合规义务可能扼杀创新。如何界定“开发商”与“部署者”的责任，是立法者面临的难题。

监管趋势：从自愿到强制

纽约AI安全法是美国州层面最全面的AI监管尝试之一。此前，加州、科罗拉多等州也提出了类似法案，但纽约的行动最为迅速。这反映了政策制定者对AI风险日益增长的担忧，尤其是在深度伪造、算法偏见和系统性风险方面。

对于AI行业而言，合规将成为新的竞争维度。能够高效满足监管要求的企业可能获得市场优势，而忽视合规的企业则面临罚款和声誉风险。

未来展望

随着纽约法生效，其他州可能跟进，形成州级监管拼图。联邦层面，国会仍在辩论AI立法，但进展缓慢。纽约的实践将为联邦立法提供参考，也可能引发关于州际监管一致性的讨论。

对于OpenAI和Anthropic，适应新监管环境是必选项。它们需要在创新与合规之间找到平衡，同时积极参与政策对话，塑造更合理的监管框架。

（完）