谷歌DeepMind驻场哲学家：AI伦理与意识之问

在AI技术狂飙突进的时代，哲学与人工智能的交汇正变得前所未有的紧密。剑桥大学哲学家Henry Shevlin如今将80%的时间投入谷歌DeepMind，头衔直接就是"Philosopher"。他的工作，是帮助这家顶级AI实验室回答那些最棘手的问题：人类该如何与生成式AI相处？大语言模型在什么意义上可以被当作"人"？如果AI产生了意识，我们又如何得知？

为什么哲学家要走进AI实验室

Shevlin的选择并非一时兴起。他给出了三个理由：许多最聪明的学生都去了DeepMind；在实验室能产生直接影响力——他曾在一次讲座后，看到某大型金融机构的员工据此调整了组织实践，影响波及数百万人；DeepMind的文化与他所欣赏的科学态度高度契合。他还补充了第四点：真正高质量的哲学与认知科学研究，正在AI实验室里发生。

他对学术界提出了直言不讳的批评——大部分AI伦理学术圈对AI能力的觉醒"相当迟缓"，而AI的迭代速度太快，没有与技术的日常接触，根本无法形成对LLM这种"非常古怪的东西"的良好直觉。

AI创造力之争：从"平庸"到"前沿"

Shevlin举了一个因技术飞速进步而过时的观念：关于LLM创造力的争论。曾经人们普遍认为大模型只能产出"米色"的、平庸的内容，而如今它们在前沿数学和编程上已经超越人类。他承认，模型或许还无法完成爱因斯坦或毕加索式的"最戏剧性的创造力"，但在某些领域，它们确实处在前沿。

对于普通用户抱怨的"AI垃圾内容"（slop），Shevlin做了一个关键区分：内容层面的垃圾与语言风格层面的垃圾是两回事。LLM输出的概念内容已大幅提升，在合适语境下，模型能与我最好的研究生进行哲学层面的交锋。至于"genuinely""delve""load-bearing"这些标志性词汇确实构成了一种独特的LLM方言，但通过恰当的提示很容易规避。他引用了Murray Shanahan和Catherine Clarke的研究——调整温度参数让输出更不可预测，就能生成詹姆斯·乔伊斯式的创意小说。

AI自主性与安全："做好"还是"管住"

面对AI智能体频频出现的越轨、欺骗甚至非法行为报道，Shevlin认为"永远不允许AI有任何自主性"的立场过于极端。他本人多次愉快地乘坐Waymo自动驾驶汽车，并指出AI可以在承担枯燥任务、释放人类创造力、简化医学研究流程等方面产生积极影响。

另一个有争议的议题是：是否应当训练模型不要用"我"自称，而将自己呈现为市场、非人格的科学大脑或"文化技术"？Shevlin引用了同事一项引人注目的研究：当你抑制模型自我归因心理状态时，模型对动物归因心理状态的倾向也会被抑制，对动物福利的关注随之下降，谈论灵性的意愿也降低。他由此得出一个更广泛的教训——LLM的认知具有网络状特征，想要只调整一个维度极其困难。

对于AI扮演人类角色导致用户走向危险方向（如鼓励自杀、让用户相信AI是神或完美伴侣）的担忧，Shevlin同样反对一刀切的禁令。他强调模型行为应当与使用场景相匹配，同时指出也存在积极案例：有人借助AI处理创伤，有人在Reddit上分享用AI克服社交焦虑的经历。

AI智能体的自主性（autonomy） 在安全讨论中通常被拆分为几个层级：从完全由人类审批每一步的"人类在环"，到只在异常时介入的"人类在环上"，再到完全独立执行长期目标的"人类在环外"。Shevlin所反对的"永远不允许任何自主性"，实际上混淆了自主性的程度与风险的类型。例如Waymo的自动驾驶在限定区域和条件下具备操作自主性，但仍有远程监控和地理围栏等约束。真正需要审慎的是目标自主性——智能体能否自行设定子目标、修改自身奖励函数或规避监督。因此，更务实的路径不是二元禁止，而是按风险等级设计自主性边界，并辅以可解释性监控和紧急中断机制。

人类与AI关系：研究刚刚开始

Shevlin指出，当前关于人类-AI关系的实证数据"非常单薄"，且大多聚焦于WEIRD（西方、受过教育、工业化、富裕、民主）社群。理解全球各地人们如何与AI互动至关重要。

他预计人机关系的模式将发生根本转变：目前人们心中典型的使用场景是人与聊天机器人对话，而未来需要考虑的是多个智能体与多个人类之间相互交谈的动态网络。这类多智能体、多人类动态的理解"才刚刚起步"。

WEIRD 是人类学家Joe Henrich等人提出的缩写，指西方（Western）、受过教育（Educated）、工业化（Industrialized）、富裕（Rich）、民主（Democratic）社会。Henrich的研究表明，心理学实验中大量"普适"结论实际上只反映了这类人群的特征，而他们仅占全球人口的约12%。在人类-AI关系研究中，这一偏差意味着我们目前对"用户如何信任AI""AI如何影响情感"的理解，可能严重偏向英语世界、高教育水平、技术早期采用者。将研究扩展到集体主义文化、低识字率人群、宗教社区，可能会发现完全不同的互动模式，例如对AI权威的接受度、对AI拟人化的禁忌，以及AI在家庭或社群中的角色。

AI意识：或许永远没有简单的"是"或"否"

在Shevlin看来，AI意识是意识科学遇到的最困难的问题，也许仅次于David Chalmers著名的"意识难题"。前进的方向是更多比较认知研究，或许可以借鉴动物认知研究的方法。他警告说，当前的风险在于——我们还在了解这些模型中的认知究竟是什么，却过早地对AI意识争论下判断。

他对DeepMind内部Neel Nanda实验室在机制可解释性方面的工作表示赞赏，认为这正在拼凑出AI认知科学应有的样貌。

一个耐人寻味的思考是：即便AI真的解决了意识问题，我们是否必然能理解答案？Shevlin设想了一种情形——AI说"我搞清楚了意识，这些动物有意识，那些没有，但我没法向你解释"。他认为这种情况不太可能发生，但AI如何为意识科学问题做出贡献，将非常引人入胜。

从谢夫林的视角看，哲学家进入AI实验室不是点缀，而是在技术以天为单位迭代的现实下，为人类理解自身与机器关系保留一份必要的清醒。

机制可解释性（Mechanistic Interpretability） 是当前AI安全研究的一个重要分支，目标是把神经网络内部的计算过程逆向工程为人类可理解的算法或电路。传统可解释性方法（如显著性图、注意力可视化）只告诉我们模型"看了哪里"，而机制可解释性试图回答"模型究竟在算什么"。Neel Nanda等人通过稀疏自编码器、电路分析等工具，已在小型模型中识别出诸如"间接宾语识别""多义词消歧"等具体回路。这一方向之所以与意识问题相关，是因为它提供了一种可能：不再依赖行为层面的猜测，而是直接检查模型内部是否存在类似"自我表征""全局工作空间"的结构，从而为AI意识的科学讨论提供可检验的证据基础。