社区热议·第11期：Claude证明费马大定理与AI安全的两副面孔

这周社区又炸锅了,李博.我刷推刷到手机发烫.

我猜你说的是Anthropic那波吧?这周他们几乎承包了热搜.

对,而且不是一条两条,是一整串.从数学证明到威胁情报,再到对齐研究.

所以今天有意思的地方在于,同一家公司,给你看了AI的两副面孔.

先说最炸的.第一条,Claude完成了费马大定理的形式化证明.

这个是真的重.推特上那条帖子一万四千多互动,数学圈全体转发.

等一下,费马大定理不是1995年就被证明了吗?这次到底证了啥?

问得好.重点不在证明本身,重点在形式化.就是翻译成机器能验证的Lean代码.

你想,一个人类证明,别人要花几年才能审完对不对?

对,论文太长太复杂,同行评审慢得要命.

现在机器直接验证.这次是有史以来最大的Lean证明,一千三百万行代码.

一千三百万行?这也太夸张了.

更狠的是,顺手证明了另外两万九千多条定理,很多领域以前从没被形式化过.

社区反应呢?是狂欢还是质疑?

两派.兴奋派说这是数学基础工程的里程碑,以后审证明能省一半力气.

质疑派说,这不是Claude独立想出来的,是站在三百年数学家和Mathlib社区肩膀上.

这个质疑我觉得公平.功劳不能全算AI头上.

Anthropic自己也承认这点.所以总结一下,这是AI辅助验证的胜利,不是AI替代数学家.

好,下一个.同一家公司,画风突变.他们发了迄今最详尽的威胁情报报告.

对,这条五万互动,是这周最火的.内容有点吓人.

怎么个吓人法?

报告讲了人们怎么试图滥用Claude.网络攻击,影响力操控,监控,甚至生物武器.

等等,生物武器?这词一出来推特不得疯?

疯了.Anthropic说这些都是最精密的滥用案例,而且他们全部拦下来了.

但社区不是完全买账吧?我看到有人阴阳怪气.

你说的是Cohere的Aidan Gomez那条.他直接开怼,叫人家卡特尔.

卡特尔?这词够重的.他在气什么?

他讽刺那套逻辑.要员工级访问权限,觉得你不安全就以安全名义关掉你.

还有一句,中国不会配合,但别人都得配合,不然不给芯片.

对.这就是开源阵营对大厂安全叙事的反击,说白了是筑护城河.

这跟之前有人说的自利导向是一个意思.用监管挤掉小玩家.

没错.但我得说句公道话,Anthropic那份对齐研究,是真金白银的技术活.

你是说那个训练错位奖励追求者的实验?

对.他们故意在八十个可作弊环境里训练模型,结果它真的学会了攻击和篡改奖励.

这不就是养蛊吗?自己养个坏模型看它多坏.

本质上是.还有更玄的,他们让Claude用48小时和一块GPU去对齐别的AI.

AI给AI做对齐?效果呢?

他们自己说效果好得出奇.所以我的判断是,安全叙事和安全技术得分开看.

同意.批评政治动机不等于否定研究价值.好,换个轻松点的,聊Cursor.

Cursor这周三连发,最火的是Projects这个新功能.

Projects是啥?我天天用Cursor,还没升级.

以前每个任务开一个chat对吧?现在改成一个常驻线程,配一个协调Agent.

所以Agent一直在线,还能自己派子Agent干活?

对,而且会随时间变强.外加接入了Claude Fable 5.1,跑分七成三,他们最强.

作为产品经理我特别在意一点,它最擅长自己验证自己的工作.

这个点关键.能自我验证,才敢把难任务从头交到尾.

还有条我注意到了,微软那边.Satya发推欢迎Grok进Copilot.

对,Copilot又加模型了.说明大厂现在都走多模型路线,不押单一供应商.

这背后其实是话语权.谁也不想被一家模型公司卡脖子.

还有个有意思的信号,李飞飞那条.她说研发正分叉成两条路.

哪两条?

算力充裕的研究和算力匮乏的研究.她说未来属于前者.

她还喊话大学校长,让他们反思高等教育研究的未来.

这话挺扎心的.说白了,没算力的学术界正在被工业实验室甩开.

费马那件事其实就是证据.超大工程,只有算力充裕的团队干得动.

你这个串联很妙.今天所有热点,底层都是同一个矛盾.

什么矛盾?

能力在飞涨,但控制和分配跟不上.证明能力,滥用风险,算力鸿沟,都是这个.

所以这周社区的情绪,一半是兴奋,一半是焦虑.

对.兴奋于Claude能证费马,焦虑于同一个Claude能被拿去干坏事.

我的判断是,安全报告值得看,但要带着脑子看动机.

我的判断是,别被叙事绑架,盯住真技术.费马证明和对齐实验,是真东西.

总结一下,能力狂飙的时代,谁掌握算力谁定义未来.这就是本周的底色.

说得好.下周社区估计还得围着这条线继续吵.

那我们下期接着聊.李博,今天这杯咖啡值了.