Conceptalgorithmic bias / 模型偏见
算法偏见
AI/机器学习系统因训练数据或模型设计的不均衡，对特定人群（如特定种族、性别、文化背景）产生系统性歧视或误判的现象，在人脸识别、招聘筛选等高风险应用中尤为突出
Timeline (last 90 days)
Oct 7
算法偏见指模型因训练数据或算法设计的系统性缺陷对特定群体产生不公平的输出，学术界通常将其分为数据偏见和表示偏见两类
Unverified50%
Sep 11
如果训练数据带有历史偏见，AI评分可能会系统性地歧视某些群体
Unverified60%
Sep 11
如果训练数据包含对特定族裔、收入阶层或地域的历史性偏见,模型会将这些偏见固化并规模化
Unverified50%
Sep 5
算法偏见指AI系统因训练数据、模型设计或应用场景问题，系统性地对特定群体产生不公平结果
Unverified50%
Sep 1
多项研究表明主流图像生成模型在无约束条件下生成的人物形象在肤色、年龄、体型方面与全球真实人口统计数据存在显著偏差
Unverified50%