#系统评估

1,368起真实AI事故揭示评估盲区：模型之外的风险

基于1,368起真实AI事故的研究发现：模型测试表现良好仍可能造成严重伤害。监控失效与致命后果相关性提升4.7倍，高AI决策权限提升2.8倍。文章通过密歇根失业系统、澳大利亚养老监控等案例，探讨从模型评估到系统评估的范式转变。