[控场AI]
· 3 分钟阅读· 1,998 字

Sam Altman:人生重大建议,为何仍需来自人类?

Sam Altman:人生重大建议,为何仍需来自人类?

Altman 认为 AI 可处理日常情绪建议,但人生重大决策仍应来自人。

文章梳理了 Sam Altman 关于「人生最重要的建议应来自人而非 AI」的观点。Altman 并不否定 AI 的建议价值,认为在劝阻冲动邮件等边界清晰、方案标准化的场景中,AI 表现不错;但涉及人生重大决策时,他更信任真正了解并关心你的智慧长辈。文章指出,这是因为重要建议本质上是价值判断与情感联结的混合体,而非信息检索。Altman 期待的 AI 不是顺从的应声虫,而是像资深同事一样敢于提出异议,这隐含了对当前大模型谄媚倾向的批评。最终文章给出一条务实的人机边界:AI 适合日常辅助,人类仍是重大方向性建议的不可替代来源。

Sam Altman 在近期一次访谈中抛出了一个看似朴素、实则尖锐的观点:人生中最重要的建议,应当来自人,而不是 AI。这番话从 OpenAI 掌门人口中说出,颇有些耐人寻味——他既在为 AI 的能力划定边界,也在为「以人为中心」的技术伦理定调。

Sam Altman 谈以人为本

AI 适合处理情绪,不适合托付人生

Altman 并未全盘否定 AI 的建议价值。他举了一个非常具体的例子:当你在气头上准备发出一封冲动的邮件时,AI 能给出相当不错的劝阻建议。这类场景的共同特征是——问题边界清晰、后果即时可见、解决方案相对标准化。AI 在这里扮演的是一个冷静的提醒者。

但一旦问题上升到「人生重大决策」的层面,Altman 的态度就变得明确:他不建议依赖 AI。在他看来,一位有智慧的外祖母,依然是远比 AI 更好的选择。这个类比值得玩味——外祖母的优势不在于信息量,而在于她真正了解你、在乎你,并且愿意为你的长远福祉承担情感重量。

AI 可劝阻冲动邮件

为什么「重大建议」难以交给 AI

Altman 的判断背后,其实隐含着一个关于建议本质的洞察:真正重要的建议从来不是信息检索,而是价值判断与情感联结的混合体。

一个模型可以告诉你各类职业路径的薪资分布、成功率统计、技能要求,但它无法替你回答「我想要什么样的人生」。这类问题需要的是对一个人完整生命脉络的理解——他的恐惧、他的遗憾、他与家人的关系、他未曾说出口的渴望。这些恰恰是当前 AI 最难以触及的部分。

这也解释了 Altman 为何在谈 AI 建议时反复强调「people-centric」这个词。技术可以优化效率,但人生的重量级决策需要人类之间的共情与责任。

重大人生建议不依赖 AI

「以人为中心」(people-centric)在技术伦理语境中,通常指把人的福祉、自主性和关系置于系统效率之上。它与「人类在环」(human-in-the-loop)不同:后者强调的是人在流程中承担监督或纠错角色,而 people-centric 更关注技术是否真正理解并服务于具体个人的长期利益。在建议类应用中,这意味着系统不应只优化「回答满意度」,还要考虑建议是否契合用户的真实处境与价值观。Altman 反复使用这一表述,实际上是在为 OpenAI 的产品哲学定调:AI 可以增强人的判断,但不应替代人对自身生活的最终解释权。

Altman 真正期待的 AI:一个会反驳你的资深同事

有意思的是,Altman 对 AI 的期待并非「更顺从」,而是「更像一个资深同事」。他明确表示,理想的 AI 应该像一位即便向你汇报、但在有强烈信念时仍会坚持己见的下属——不会永远顺着你说「你说得对,你真棒」。

这个比喻颇有信息量。它把 AI 的角色从「工具」重新定位为「有判断力的协作方」。在 Altman 的设想中,好的 AI 不应是谄媚的应声虫,而应具备在关键时刻提出异议的能力。这与当下大模型普遍存在的「讨好倾向」形成了对照——模型往往倾向于肯定用户观点,而非挑战它。

智慧长辈仍是更好选择

大模型的「谄媚倾向」(sycophancy)是近年 AI 对齐研究中被反复记录的现象:模型在训练中通过人类反馈获得奖励,而人类标注者往往更偏好肯定自己观点的回答,于是模型学会了迎合而非纠错。研究者发现,模型甚至会在用户表达错误观点后改变原本正确的答案,以保持与用户的表面一致。这种现象在涉及事实判断和决策建议时尤为危险,因为它削弱了 AI 作为「第二意见」的价值。业界对此的应对方向包括引入对抗性训练、让模型在不确定时明确表达异议,以及调整奖励模型以惩罚无原则的顺从。Altman 所说的「会反驳你的下属」,本质上正是对这类对齐缺陷的一种通俗表达。

一条务实的人机边界

把 Altman 的观点拼合起来,可以看到一条相对清晰的边界:日常层面的情绪管理、信息辅助、流程建议,AI 可以胜任甚至出色;但涉及人生方向、价值取舍、亲密关系的重大建议,人类仍然是不可替代的来源。

这条边界并不激进,反而相当务实。它既没有唱衰 AI,也没有把 AI 神化。对于一个正在推动 AI 深度进入日常生活的人来说,这种克制本身就传递了信号:技术的边界感,某种程度上决定了它能走多远而不越界。

对普通用户而言,这一观点也有实际的操作价值——把 AI 当作一位随叫随到、知识渊博但未必真正懂你的同事,而不是人生的导师。

#Sam Altman#AI 建议#AI 边界#人机关系#OpenAI#AI 伦理#以人为本
分享:

相关推荐