每日AI新鲜事·10月26日晚间版：AKV降本与LLM造环境

今天AI圈又有不少新消息,而且有几条特别值得聊.

今天咱们主要聊这么几件:一是清华AKV缓存工程,二是Gemini API CLI做广告,三是三个技能改变人生,四是AI债务泡沫警告,五是Opus造游戏环境,六是原生智能体手机发布会.

嗯,这几个都挺有说头.

好,那咱们先从第一条开始.

刚看到MarkTechPost上有条消息,清华团队开源了一个叫AKV的系统,基于SGLang做的.

对,这个我觉得挺关键的.它解决的是长上下文agent里KV缓存膨胀的问题.

传统做法要么总结历史要么截断,但都会丢信息. AKV把KV缓存当成可编辑的数据结构,推理过程中能丢能搬.

等等,缓存还能编辑?这不就是给模型的记忆做剪辑吗.

你这个比喻挺准的. 重点是它在4个agent基准上平均降了27.7%的成本.

这个降幅可以啊. 而且方向很有意思,优化从提示词工程下沉到推理系统层了.

对,这是个趋势. 以前大家卷prompt,现在开始卷系统层了.

好,第二条,YouTube上有个视频讲Gemini API CLI,说他的编程agent真做出了一条广告.

这个挺有意思,从写代码到做创意产出,agent的边界又往外推了一步.

不过就一个视频,细节不多. 接着第三条,也是YouTube,标题叫"改变我人生的三个技能".

这种标题听着就有点鸡汤味儿.

可不是嘛. 第四条是Mark Cuban在YouTube上警告,说AI可能把大家拖进一个深度债务泡沫.

这个角度有意思,不是讲技术,是讲资本层面的风险.

对,基础设施投入那么大,回报周期又长,确实值得琢磨.

不过具体怎么个bankrupt法,视频里没说太多,咱们也别过度解读.

第五条,Reddit上有个老哥,用Opus 5.5给《Getting Over It》自动搭了个JAX环境.

这个我看到了. 仿真速度从每秒6千步提到5万步,差不多1600倍实时.

2.5天,13个GPU小时,1.32B训练步,最后真实游戏胜率85%. 这数字有点吓人.

关键是他之前用类似方法搞过Brotato、Cuphead和Kingdomino,说明这路子可复制.

好了新闻就先聊到这儿,接下来我们深入聊聊刚才提到的两个话题,AKV和LLM造环境.

行,先从AKV开始. 我觉得这条被低估了.

为什么这么说? 27.7%成本降低听着是不少,但也没到颠覆级别吧.

重点不在这个数字,重点在它背后的思路. 它把agent的记忆当成可编排的工程对象.

你想,长上下文agent最贵的不是算,是缓存. 每多一轮对话,缓存就膨胀一圈.

所以以前大家就总结一下历史,或者干脆截断.

对,但总结会丢细节,截断会丢上下文. AKV是不丢,而是重新摆放.

我有个疑问啊,这会不会影响模型推理的连贯性? 缓存被搬来搬去,模型会不会懵.

这是个好问题. 从结果看它在4个基准上没崩,说明工程上处理得还行.

不过HN上也有程序员在争论,说这种方法依赖具体任务结构,泛化性还得再看.

这我同意,基准成绩好看,不代表真实场景都稳.

但方向是对的. 以后agent优化肯定更多在系统层做文章,而不是只调prompt.

那接着聊第二个,LLM造训练环境. 这个我觉得更炸.

确实. 以前做个仿真环境,物理调参就够喝一壶的. 现在Opus 5.5直接给你生成.

而且它把速度提了1600倍,这就让强化学习训练变得可行了.

Reddit上大家在争论,这到底是agent能力强,还是这个游戏本身适合被建模.

两方都有道理吧. 但85%胜率摆在那,至少说明保真度够用.

对,这就是关键. 环境不用百分之百准,只要足够让策略迁移到真实游戏就行.

那是不是意味着以后训练agent的门槛会大幅降低?

我觉得会. 13个GPU小时就能跑通一个复杂游戏,这个成本很多小团队都扛得住.

不过也有个隐忧,如果环境都是LLM生成的,会不会有系统性的偏差.

会有,所以最后还得靠真实环境做验证. 这次85%胜率就是在真机上测的.

所以总结一下就是,LLM造环境这条路,把agent训练从手工建模变成了自动生成.

对,一个在系统层省成本,一个在训练层降门槛,今天这两条其实是同一个趋势的两个侧面.

行,今天聊得挺透. 明天见.