概念AI Bias
AI偏见
AI系统在输出中表现出对训练数据中某些模式、群体或技术栈的系统性偏好或偏差,在代码生成中可表现为推荐不安全模式、过时API或特定框架倾向。
时间轴 (近 90 天)
10月18日
AI偏见在代码生成中表现为模型可能更频繁地生成已被弃用的函数(如var而非let),或忽略参数化查询而直接拼接SQL语句。
待验证50%
10月12日
凯文·凯利警告说,AI系统的偏见会被规模化放大,因为训练数据中固有的偏差会随着模型部署到数百万用户而扩散。
待验证50%
10月5日
AI训练数据和算法设计中的隐性假设会被放大并规模化输出
待验证50%
10月5日
多元化团队在发现和修正AI偏见方面具有结构性优势,不同背景成员更容易注意到对自身群体的不公平输出
待验证50%
9月11日
福利审批算法可能因训练数据偏差而系统性拒绝某些群体的申请,构成制度性歧视
待验证50%