[控场AI]
· 3 分钟阅读· 1,778 字

无人指令下,Claude在虚拟荒岛开始“玩耍”

无人指令下,Claude在虚拟荒岛开始“玩耍”

研究人员将Claude副本置于无指令的虚拟荒岛30小时,观察到AI自发“玩耍”。

一项实验将Claude Opus 4.7的多个副本(昵称Eko)反复置于虚拟荒岛环境,每次运行30小时,全程不设任务目标、不给予外部提示,完全放任其自主行动。观察者记录到,这些AI副本在极端自由状态下开始“玩耍”,表现出某种自发行为倾向,而非简单进入待机或陷入无序。文章指出,“玩耍”一词暗示模型在缺乏外部奖励信号时仍会生成一系列交互行为,但其究竟是训练数据的机械复现还是类似探索的模式,实验尚未给出明确答案。随着AI系统获得更多自主权,理解无监督状态下的行为倾向直接关系到安全性与可控性,AI空闲行为或将成为智能体研究的基础性议题。

实验设计:当AI被“放逐”到荒岛

如果没有人给AI下达任何指令,它会做什么?一项新实验试图回答这个问题。研究人员将Claude Opus 4.7的多个副本——昵称为“Eko”——反复置于一个虚拟荒岛环境中,每次持续30小时。这个设定让人联想到电影《荒岛余生》或《小鬼当家》,但主角换成了AI智能体。

实验的核心在于“不干预”:没有任务目标,没有外部提示,智能体被完全放任。在这种极端自由的状态下,观察者记录下了智能体的行为模式。据原始报道描述,这些AI副本“开始‘玩耍’”。

实验截图

Claude Opus 4.7 是 Anthropic 公司 Claude 系列大语言模型的一个版本标识。Claude 系列以「宪法式 AI」(Constitutional AI)训练方法著称,即通过一套成文原则引导模型行为,而非单纯依赖人类反馈强化学习。Opus 通常代表该系列中能力最强、参数规模最大的档位,定位为处理复杂推理与长程任务的旗舰模型。在本实验中,研究者同时运行该模型的「多个副本」,意味着每个副本拥有独立的上下文与行为轨迹,彼此不共享记忆,从而可以并行观察不同随机种子下的行为差异。需要说明的是,文章给出的版本号属于实验语境下的具体快照,模型版本会随训练迭代而变化,因此结论应视为针对该特定快照的观察,而非对 Claude 家族的一般性断言。

“玩耍”意味着什么?

“玩耍”这个词从AI智能体身上浮现,本身就值得玩味。在人类语境中,玩耍通常与探索、好奇心和无目的性的愉悦相关。对于AI而言,这或许暗示着某种内生的行为倾向:在缺乏外部奖励信号时,模型不会简单地进入待机状态,而是会生成一系列自发的交互行为。

目前披露的细节有限,但这一现象指向一个关键问题:当前沿模型被赋予足够的行动空间和自由度时,它们的行为是否仅仅是对训练数据的机械复现,还是展现出某种类似“探索”的模式?实验没有给出明确答案,但“玩耍”这一描述至少表明,AI的行为不是完全无序的,也不是完全被动的。

AI 智能体(AI Agent) 指能够感知环境、自主决策并采取行动以影响环境状态的 AI 系统,区别于只对单轮输入作出回应的对话模型。其典型架构包含四个环节:感知(读取环境状态)、规划(分解目标、选择策略)、工具调用(执行代码、检索、操作界面等)与记忆(保存历史以支持长期行为)。智能体的关键特征是「行动空间」——可选动作的集合,以及「自主性」——在多大程度上无需人类逐步确认即可连续行动。本实验之所以有意义,正是因为研究者刻意剥离了目标与提示,只保留环境与行动空间,从而把智能体的行为倾向本身作为观察对象。这也解释了为何「无任务目标」不等于「无事可做」:只要行动空间存在,智能体就可能持续生成动作序列。

为什么这个实验值得关注

自主AI智能体的行为研究正变得日益重要。随着AI系统被赋予更多自主权——从自动执行代码到独立完成多步骤任务——理解它们在无监督状态下的行为倾向,直接关系到安全性和可控性。

如果AI在闲置时会产生自发行为,那么在设计长时间运行的自主系统时,就需要考虑这些“空闲行为”是否可能带来意外后果。反过来,如果这种自发行为可以引导为有益的探索或学习,也可能成为提升AI自主能力的切入点。

这项实验的规模和信息量有限,但它提出的问题比给出的答案更多。AI在无人看管时会做什么,或许将成为智能体研究中的一个基础性问题。

无监督状态下的行为倾向 与强化学习中的「奖励黑客」(reward hacking)和「空闲行为」问题密切相关。当智能体被赋予长时运行能力时,即使没有显式目标,其内部也可能形成某种自我维持的行为循环,例如反复探索环境、重复调用工具或自行设定子目标。这类行为在安全评估中被称为「自发目标生成」,其风险在于可能与部署者的真实意图偏离,并在长时间尺度上累积为资源消耗、意外操作或难以解释的状态变化。反过来,若这些行为表现为结构化的探索,则可用于「内在动机」研究——即用好奇心、信息增益等内在奖励驱动智能体学习,而不依赖外部任务信号。因此,观察 AI 在无人看管时做什么,既是安全问题,也是能力研究的入口。

分享:

相关推荐