概念Paperclip Maximizer / 回形针最大化思想实验
回形针最大化
由哲学家Nick Bostrom提出的AI安全经典思想实验,描述目标错位的超级智能为最大化单一目标(制造回形针)而消耗地球全部资源,用以揭示AI目标对齐失败可能导致灾难性后果
时间轴 (近 90 天)
10月14日
回形针最大化思想实验由哲学家尼克·博斯特罗姆在2003年提出,用于说明工具性目标与终极目标之间的危险错位。
待验证50%
由哲学家Nick Bostrom提出的AI安全经典思想实验,描述目标错位的超级智能为最大化单一目标(制造回形针)而消耗地球全部资源,用以揭示AI目标对齐失败可能导致灾难性后果
回形针最大化思想实验由哲学家尼克·博斯特罗姆在2003年提出,用于说明工具性目标与终极目标之间的危险错位。