[控场AI]
· 11 分钟阅读· 5,582 字

谷歌把AI与搜索捆绑进校园:一场关于教育控制权的博弈

谷歌把AI与搜索捆绑进校园:一场关于教育控制权的博弈

谷歌将AI与搜索捆绑引发争议,同时多项AI进展揭示验证与追踪的结构性局限。

谷歌在校园场景将Gemini与搜索引擎捆绑为单一开关,学校无法单独关闭AI摘要,尽管搜索本身已具备纯链接过滤模式,此举被批评为“勒索”。谷歌以引导式学习实验为捆绑辩护,但效果提升有限且统计不显著,与AI学习效果接近零的元分析形成张力。与此同时,AI2的StateBench揭示Transformer在长链状态追踪上的结构性缺陷,循环架构需专门训练才能弥补;Anthropic的FlashProof用零知识证明实现模型身份验证,但成本高昂且仅支持短上下文。Palantir季报显示企业AI采购转向快速试用短合同,数据中心电力短缺迫使退役飞机发动机上场,MIT实验表明开源模型可读取权重推断训练目标。Nexus Mods强制标注AI内容但诚实带来下载损失。核心议题是:验证正从技术问题演变为权力形式。

谷歌最近做了一个让教育界和科技界同时侧目的决定:在校园场景里,AI和搜索引擎被打包成了同一个开关。学校要么同时接受Gemini和搜索摘要,要么连搜索本身都用不了。这个看似技术性的产品决策,实际上牵出了AI时代一个更深层的问题——当工具开始替我们思考,谁来决定孩子该怎样使用它?

捆绑策略:没有分开的开关

据谷歌教育副总裁Chris Phillips在企业博客上的公告,Gemini学习笔记本、Classroom中的Gemini以及搜索引擎本身,将在中小学学生账户中默认关闭,直到学校管理员主动开启。细节将在未来几个月内送达各学校,随后才正式部署。

表面上看这是一种退让——毕竟此前谷歌已在Classroom中默认开启了Gemini,而Classroom的用户规模超过1.5亿师生。但Phillips向《纽约时报》透露的关键细节是:不会有独立于搜索的AI开关,因为两者"深度集成"。这意味着拒绝AI摘要的学校,其学生将看到搜索不可用的提示。

这个逻辑引发了强烈反弹。参议员Bernie Sanders称之为"勒索",纽约市长则表态"没有公司应该决定孩子怎么被教"。谷歌的回应是:这给了学校更多选择,而非更少。

Para seguir una cadena de intercambios

技术上的漏洞:分离其实早已存在

谷歌的"深度集成"说法有个绕不过去的技术事实。据节目分析,自2024年5月起,谷歌搜索本身就带有一个名为"web"的过滤器,只展示链接、不显示AI摘要。换句话说,搜索与摘要的分离在技术上已经实现——缺的不是能力,而是向学校提供这个选项的意愿。

这就像一个超市把散装水果藏在仓库货架上,然后告诉学校只能和糕点捆绑购买。谷歌一边强调集成的不可分割性,一边在面向普通用户的产品里保留了纯链接模式,这种不对称本身就说明了商业考量的分量。

谷歌搜索的“web”过滤器是2024年5月上线的一项功能,用户在搜索结果页顶部的标签栏中可切换至“Web”视图,该视图仅返回传统蓝色链接,不包含AI Overviews摘要、知识面板或精选片段等生成式内容。这一过滤器最初面向全球所有用户开放,被视为对出版商流量下滑担忧的回应。从架构上看,AI摘要与搜索索引是解耦的:摘要层在检索结果之上运行,可独立开关。因此“深度集成”并非指代码层面的不可分割,而是指产品体验与商业策略上的绑定。学校若要求关闭摘要,技术上只需禁用摘要层即可,无需触及搜索索引。这一事实削弱了谷歌捆绑论证的技术基础。

学习模式的证据:数据说了什么,又瞒了什么

谷歌为这次捆绑配了一个教育论证:其"引导式学习"模式不直接给答案,而是通过提问和分步拆解来辅助思考。该功能已在全球Classroom上线,并将在美国部分学校测试搜索端的学生账户版本。

支撑证据来自谷歌自己的一项实验:300多名东京大学学生用Gemini应用(非搜索引擎)学习统计学课程。半天的学习中,一半人额外使用了引导式辅导。结果只使用常规资源的学生在后测中提升约5分,使用辅导的提升约8分。

这个差距不算大,且谷歌没有公布起始分数,也没有说明差异是否具有统计显著性。更关键的是,它与另一项研究形成了张力:据节目此前报道,Patrick O'Neill对44项实验的初步元分析显示,AI对学习效果的平均影响接近于零。

两者可以同时成立。直接给答案的AI省去了产生学习所需的努力,而迫使思考的AI可能略有帮助。但即便是引导模式,在搜索引擎中也需要谷歌"检测到这是作业"才会触发,而直接答案始终只需一次点击。晚上11点疲惫的学生,会选哪个摆在眼前的事实。

引导式学习(Guided Learning)是谷歌Gemini推出的一种交互模式,它不直接给出最终答案,而是通过追问、提示和分步拆解引导用户自行推导。其设计理念源自苏格拉底式提问与认知科学中的“生成效应”——学习者在主动产生答案时记忆更牢。但该模式在搜索端的触发依赖谷歌对“作业查询”的自动识别,这意味着它并非默认路径,用户需主动选择或系统判定为学习场景才会启用。直接答案只需一次点击即可获得,而引导模式要求多轮交互,两者在用户 effort 上的不对称是理解实验结果的背景。

数据与合同:被忽略的核心议题

对学校管理者而言,这个决定早已不是技术问题。他们要在"学生用来跳过练习的工具"和"失去全球最常用搜索引擎"之间做选择。但公告中完全没有涉及学生数据使用承诺——而这恰恰是学校在合同中首先应该争取的条款。

如果学校同时要求独立开关和数据条款,今天技术上不提供的形态往往就会出现。对家庭来说,实验传递的教训很实用:关键不在于用不用AI,而在于工具是在提问还是在回答。这一点在家里就能观察到。

谷歌此举暴露了它的价值判断:它不希望一代人学会在没有摘要的情况下搜索,因为今天的学生就是十年后的搜索用户。

AI2的StateBench:长文本状态追踪为何难倒顶级模型

节目还报道了Allen人工智能研究所(AI2)发布的StateBench,一项衡量模型在长文本中追踪状态变化能力的基准。它的设计揭示了模型内部运作的一些真相。

Funciona porque

测试分四个难度梯度:最简单的是某个值设定一次后不再改变(如出生日期);其次是值被替换、只需找到最新值(如恒温器设定);第三级每次变化累加在前值上(如篮球比分),不能跳过任何步骤;最高级是变量之间相互赋值,如同三杯球游戏里球在多个杯子间转移,要追踪每一次交换才能确定最终位置。

这个分类并非随意划分,而源自代数中Crony-Rhodes理论,该理论将这类问题分解为基本组件。

结果与理论基本吻合:Gemini、Claude、OpenAI的模型在前两个难度上表现良好,但在高难度和长文本下大幅下滑,最高难度准确率降至很低水平。架构本身不够——AI2的Olmo混合模型虽含循环层,在最高难度上仍与随机猜测无异。只有当AI2专门训练小型模型时,更灵活的循环变体才能解决远超训练分布长度的问题,而Transformer从未学会。

这意味着循环架构提供了"笔记本",但需要有人教模型如何使用,常规训练做不到这一点。格式也会改变结果:同一问题以电子表格编辑形式呈现时,原本能解的小模型反而溃败。

对实践者的启示很具体:合同修订、单元格互相引用的表格、物品在不同仓库间转移的库存——这些看似是阅读问题,实则属于高难度状态追踪。此时应要求模型逐步写出状态,或使用代码,而非依赖一次性阅读。文档越长,越该警惕。

Crony-Rhodes理论是代数自动机理论中的经典结果,由Larry Crony和John Rhodes在1960年代提出,它将有限状态自动机分解为三种基本组件:重置自动机(将状态强制设为某值)、置换自动机(状态间的一一映射)和单位自动机(状态保持不变)。StateBench的四级难度梯度正是对应这些组件的组合复杂度:单次设定对应重置,替换对应简单置换,累加对应需要记忆的计数器,相互赋值则对应复杂的置换群。该理论的意义在于给出了状态追踪问题的“原子”分类,使得基准测试的难度划分有数学依据,而非经验性拍脑袋。这也解释了为何Transformer在最高难度上崩溃:其前馈架构缺乏循环状态记忆,难以模拟置换群的复合运算。

FlashProof:让任何人都能验证模型身份

Anthropic与USANA理工学院及MIT的密码学家合作发布了FlashProof,一个开源系统,用简洁零知识证明来验证某个模型确实生成了某个回答。

原理基于一个古老的想法:验证计算可以比执行计算便宜得多,就像除法可以用乘法来检验。提供方发布权重的密封指纹,并为每条回答附上证书,证明每个词都是该模型会选择的结果。客户端在自己的电脑上验证,全程看不到权重。

之所以可行,是因为测试用的Llama模型是混合专家架构——总参数中每次只有一小部分参与计算,因此只需证明这部分的正确性。单张H100生成证明的速度约为每秒100个token,验证在普通处理器上约需17秒。

限制同样明显:生成证明的成本是直接服务回答的数十倍,因此定位是事后抽查样本,如同收银员检查部分小票。目前仅适用于约1000词的上下文,远低于真实对话长度,且只支持总是选择最可能词元的模型版本,不含真实服务中的随机采样。

作者建议监管机构可以要求提供已服务内容的证书,并核实运行的只有获批模型。但他们也承认,这无法证明那些GPU没有同时在训练别的东西。协议已在Lean中形式化验证,但日常使用的快速验证器不具备同等保证。这是一个研究原型,Anthropic将其列为确保服务完整性的多条路径之一。

简洁零知识证明(Succinct Zero-Knowledge Proof)是一种密码学协议,允许证明者向验证者证明某个计算陈述为真,而不泄露除“陈述为真”之外的任何信息,且证明大小和验证时间远小于重新执行计算。FlashProof将其用于模型推理验证:证明者需证明“给定权重指纹和输入,输出词元序列是模型贪心解码的结果”。混合专家架构(MoE)在此处是关键——每次前向传播只激活总参数中的一小部分专家,因此证明只需覆盖被激活的子网络,大幅降低证明成本。但MoE的路由决策本身也需要被证明,这增加了协议复杂度。该方案目前仅支持贪心解码,因为随机采样的概率路径难以用简洁电路表达。

Palantir的转型信号:企业客户正在改变AI采购模式

Palantir的季报首次呈现出一个不同的画像:它更像企业软件公司,而非国防承包商。据其向SEC提交的财报,美国企业客户销售额同比增长显著,并略微超过了美国政府部门的收入。

aunque un 11% más

他们卖的是在不将数据迁出内部的前提下使用前沿模型或训练开源模型的能力,并配备驻场工程师。关键在于合同结构:美国企业新签合同总额相当可观,但明显低于上一季度,尽管同比仍有增长。CEO Alex Karp承认客户现在试用更快、签约更短,并将其辩护为后续扩展的入口。

这正是今年企业AI的普遍模式:绕过官僚流程快速开始,也同样快速地离开。对一家以多年收入为估值基础的公司而言,客户留十年还是试用六个月,差别是根本性的。Palantir自身押注前者,已上调全年美国企业销售预期。

数据中心电力困局:退役飞机发动机上场

据《纽约时报》报道,接入电网的等待时间已长到部分数据中心开始用退役飞机发动机自行发电。ProEnergy公司将GE等用于波音的退役发动机改装为燃气发电机组。据国际能源署数据,在弗吉尼亚北部接入100兆瓦电力约需七年,而用这些发动机一个数据中心可在约两年内投运。

un modelo abierto

代价是物理性的:飞机发动机不回收尾气余热(不同于联合循环电厂),因此每兆瓦燃烧更多天然气、排放更多。SpaceX已运营Musk的Colossus数据中心,并将2027年预期上调至约13吉瓦,相当于13座核反应堆。某分析机构定位到9个在建或运营项目,并指出有时电力供应在施工开始后才出现。

还有一个串联两条新闻的细节:根据7月签署的承诺,为该中心供电的机组到2027年必须降至不到一半功率。对邻近社区而言,这意味着规划图上从未出现的发动机,会随着许可证到期而迁移。

开源模型能"读懂"权重:实验门槛正在降低

MIT此前一项工作显示,前沿模型可以通过读取小型神经网络的原始权重来推测其训练目标。Simon Willison在自己的笔记本上用Qwen开源模型(参数量270亿,占用约17GB)复现了实验:给模型四个为简化经典游戏训练的网络原始数字,不用计算器或代码,它猜对了四个中的三个——Pac-Man、Pong和Breakout,把冷门游戏Freeway误认为Pac-Man。每个游戏耗时45分钟到一小时多。而Claude通过其服务在不到10分钟内解决了Breakout。

质疑同样存在:有开发者批评该工作混淆了"无工具读取权重"与"用代码修改权重",也有人认为所谓突破只是任何研究者都会走的步骤。但对预算有限的研究者来说,信号很明确:昨天还需要前沿模型的实验,今天在家就能慢慢免费复现。

Nexus Mods:强制标注AI,但诚实有代价

最大的PC游戏模组仓库Nexus Mods已有AI内容标签,新规是将其变为强制。上传者必须声明是否使用AI,若作为辅助工具还需公开说明用在哪里、怎么用。已上传内容须在1月2日前合规。

站主Victor Folman拒绝禁止AI,理由值得注意:AI已渗透整个流程,从代码自动补全到纹理和语音,禁令不会消除它,只会让没人承认。他还承诺不用模组训练模型,也不将其出售给这样做的人。这是"配料表"模式而非"海关"模式——不替用户做决定,而是提供信息。

但同一网站推出了隐藏所有已标注内容的过滤器,先从各游戏页面和首页开始,再扩展到搜索。于是声明可能从第一天起就带来下载量损失。它要求的诚实有价格,而付账的是实践诚实的人。

一个不单卖搜索的搜索引擎、一份谁都能验证却看不到权重的证书、一个要求每位作者自己声明的标签——"验证"正在从技术问题变成一种权力形式。

#谷歌教育AI#Gemini Classroom#AI搜索捆绑#StateBench#FlashProof#AI教育政策#模型验证
分享:

相关推荐