自动化偏见
认知心理学概念，指人类过度信任自动化系统输出、降低独立批判性评估的认知偏见，在AI决策辅助场景中尤为突出，可能导致对错误结论的盲目接受
Core Facts
Timeline (last 90 days)
自动化偏见（automation bias）指当人类长期处于确认算法结论的角色时，批判性思维会逐渐退化
自动化偏见（Automation Bias）是心理学概念，指当系统以权威确定语气呈现信息时，人类决策者倾向于降低批判性审查
大模型在日常任务上的高准确率为自动化偏见提供了温床，正确率越高的系统越容易在出错时被人放过
航空领域有大量记录显示飞行员过度信赖自动驾驶导致系统发出异常信号时判断力下降
自动化偏见分为「遗漏错误」（未能发现系统错误）与「委托错误」（主动采纳应被质疑的建议）两个层面
解决自动化偏见不仅需培训人员更多怀疑，更需在界面与流程层面强制暴露模型局限性并让否决与批准在认知成本上对等
自动化偏见在航空、医疗影像诊断等自动化程度较高的领域已有大量记录案例，操作者常选择遵从而非质疑明显错误的结果
自动化偏见（Automation Bias）指当系统以高置信度给出建议且决策窗口被压缩时，操作员倾向于直接确认而非独立核查
对抗自动化偏见的有效手段包括界面层面显式标注AI置信度与信息来源、红队演练、建立制度性反驳义务
将AI输出盲目信任并不加审查地直接使用是一种应警惕的现象
5 more timeline events
All Facts (16)
自动化偏见是指人类倾向于过度信赖自动化系统输出的心理现象，最早在航空和医疗领域被广泛研究
70%Verified自动化偏见（automation bias）这一术语最初由心理学家Linda Skitka和Kathleen Mosier在1999年研究航空决策系统时提出，指人类倾向于无批判地接受自动化系统的建议
65%Verified心理学将人们对AI输出的过度信任归因于自动化偏差（Automation Bias）
65%Unverified将AI输出盲目信任并不加审查地直接使用是一种应警惕的现象
60%Unverified自动化偏见指人们与自动化系统长期协作时逐渐降低对系统输出的质疑和审查力度，最早在航空领域被系统研究
60%Unverified自动化偏见（automation bias）指当人类长期处于确认算法结论的角色时，批判性思维会逐渐退化
50%Unverified自动化偏见（Automation Bias）是心理学概念，指当系统以权威确定语气呈现信息时，人类决策者倾向于降低批判性审查
50%Unverified大模型在日常任务上的高准确率为自动化偏见提供了温床，正确率越高的系统越容易在出错时被人放过
50%Unverified航空领域有大量记录显示飞行员过度信赖自动驾驶导致系统发出异常信号时判断力下降
50%Unverified自动化偏见分为「遗漏错误」（未能发现系统错误）与「委托错误」（主动采纳应被质疑的建议）两个层面
50%Unverified解决自动化偏见不仅需培训人员更多怀疑，更需在界面与流程层面强制暴露模型局限性并让否决与批准在认知成本上对等
50%Unverified自动化偏见在航空、医疗影像诊断等自动化程度较高的领域已有大量记录案例，操作者常选择遵从而非质疑明显错误的结果
50%Unverified自动化偏见（Automation Bias）指当系统以高置信度给出建议且决策窗口被压缩时，操作员倾向于直接确认而非独立核查
50%Unverified对抗自动化偏见的有效手段包括界面层面显式标注AI置信度与信息来源、红队演练、建立制度性反驳义务
50%Unverified人在高压环境下容易产生自动化偏见，倾向于无条件接受系统建议而放弃独立判断，可能使HITL模式退化为人在回路外
50%Unverified保持人在回路中的协作模式是防止自动化偏见的最有效策略
50%