概念algorithmic bias / 模型偏见
算法偏见
AI/机器学习系统因训练数据或模型设计的不均衡，对特定人群（如特定种族、性别、文化背景）产生系统性歧视或误判的现象，在人脸识别、招聘筛选等高风险应用中尤为突出
时间轴 (近 90 天)
10月13日
算法若基于历史数据训练，可能复制甚至放大既有的纪律偏见，使特定群体学生被过度标记。
待验证50%
10月7日
算法偏见指模型因训练数据或算法设计的系统性缺陷对特定群体产生不公平的输出，学术界通常将其分为数据偏见和表示偏见两类
待验证50%
9月11日
如果训练数据带有历史偏见，AI评分可能会系统性地歧视某些群体
待验证60%
9月11日
如果训练数据包含对特定族裔、收入阶层或地域的历史性偏见,模型会将这些偏见固化并规模化
待验证50%
9月5日
算法偏见指AI系统因训练数据、模型设计或应用场景问题，系统性地对特定群体产生不公平结果
待验证50%
9月1日
多项研究表明主流图像生成模型在无约束条件下生成的人物形象在肤色、年龄、体型方面与全球真实人口统计数据存在显著偏差
待验证50%
全部知识事实 (6)
待验证
如果训练数据带有历史偏见，AI评分可能会系统性地歧视某些群体
60%待验证算法若基于历史数据训练，可能复制甚至放大既有的纪律偏见，使特定群体学生被过度标记。
50%待验证算法偏见指模型因训练数据或算法设计的系统性缺陷对特定群体产生不公平的输出，学术界通常将其分为数据偏见和表示偏见两类
50%待验证如果训练数据包含对特定族裔、收入阶层或地域的历史性偏见,模型会将这些偏见固化并规模化
50%待验证算法偏见指AI系统因训练数据、模型设计或应用场景问题，系统性地对特定群体产生不公平结果
50%待验证多项研究表明主流图像生成模型在无约束条件下生成的人物形象在肤色、年龄、体型方面与全球真实人口统计数据存在显著偏差
50%