每日AI新鲜事·11月08日午间版：无KV缓存注意力与Agent教程潮

今天AI圈又有不少新消息,尤其是Reddit上几个技术讨论,还挺有嚼头的.

今天咱们主要聊这么几件:一是VLM训练用深度分割,二是OCC银行AI新规,三是SANATAN无KV缓存注意力,四是Localix开源ADE,五是Firefox预取小坑.

然后深度话题两个:DeepSeek^广告二十七倍token优化,还有B站Agent教程刷屏.

嗯,这几条都挺有料.

那咱们就先从新闻开始吧.

第一条,Reddit深度学习板块有个架构问题挺有意思.问VLM能不能在训练的时候学深度估计和语义分割,但推理的时候只用RGB图像.

你的感觉没错,这个想法理论上成立.辅助任务可以当正则化项,学到的表征能内化到编码器权重里.

那问题在哪儿呢?听着挺美的啊.

重点不在这里,重点在特征粒度.VLM的跨模态对齐靠的是全局或区域级特征压缩,而深度和分割是稠密预测任务,两者天然有张力.

而且训练时辅助分支参与前向传播,推理时又拿掉,容易引发训练和推理不一致,表征浪费.文章建议做成旁路式结构.

所以就是理论成立,但工程门槛不低,更适合当研究课题对吧.

对,辅助损失权重和引入时机这些,还得靠系统的消融实验去验证.

第二条,还是Reddit,美国货币监理署OCC给银行用AI定了新监管预期,六大领域要展示主动控制.

这个措辞变化很关键.从监控转向主动控制,等于从检测性控制变成预防性控制.控制措施得在AI行动的瞬间生效,不是事后翻日志.

那对已经在生产环境跑AI的银行来说,压力不小吧?

架构级挑战.遗留的批处理审计体系跟新标准之间有明显鸿沟.最难的还是第三方AI依赖,银行对供应商组件的行为可见性有限.

我看社区反馈说,多数机构还处在评估差距的早期阶段.

对,得重新谈合同,建实时接口,甚至要求控制钩子,这活儿不轻松.

好,第三条来了.SANATAN,一个声称彻底干掉KV缓存的注意力机制,数学基础建在虚数单位i的两个平方根上.

KV缓存确实是长上下文推理的内存瓶颈,MQA和GQA都是在缓存策略上做取舍,SANATAN是想在机制层面直接绕过去.

但作者这次只加了个六分钟的视频演示,没给实验数据也没性能对比,这靠谱吗?

所以我说现在是高主张低证据.方向上跟线性注意力和状态空间模型有重叠,但复数运算的开销能不能回本,还得验证.

那就是个早期探索,建议大家盯一下GitHub实现和后续的受控实验.

第四条,Localix,一个MIT开源项目,作者是独立开发者,现在还是beta.

它不把自己叫IDE,叫智能体开发环境ADE.一个主智能体可以调度子智能体,在同一个桌面应用里操作编辑器,终端和浏览器.

最受关注的应该是它不用转换就能加载Claude Code那套Plugins,Skills,Commands,MCP和CLAUDE.md吧.

对,迁移成本一下就降下来了.模型层面支持任意OpenAI兼容端点,也能跑Hugging Face本地模型,数据不出设备.

上下文管理还能@引用文件,diff,commit和终端输出,智能体每次编辑完直接看到诊断信息.基于Tauri加React和TypeScript,不过目前只支持Apple silicon的macOS.

这个限制确实有点可惜,但作为独立开发者的beta项目,完成度已经挺高了.

最后一条,来自Simon Willison的博客.Datasette有个issue,发现Firefox会把HTML页面里link rel等于next的HTTP头当成预取指令,自动提前拉下一页的数据.

这个坑挺隐蔽的.对分页数据库工具来说,大部分访客根本不会点下一页,结果浏览器白费带宽,服务器白渲染.

查下去还发现一个二十四年前的Bugzilla老issue,Simon自己2002年的博客就聊过同样的问题.

所以Datasette的修法很聪明,只对Firefox隐藏这个头,对爬虫和其他客户端保留.这也提醒大家,HTTP头的rel语义可能触发真实的浏览器行为.

好了新闻就先聊到这儿,接下来我们聊聊B站上最近特别火的两个话题.

第一个,B站有个视频标题特别抓人,说你的DeepSeek其实还能优化二十七倍token,少吃白饭.

这个说法一听就很营销,但背后其实指向一个真问题:token效率.同样的任务,提示词写得好不好,消耗能差出好几倍.

可是二十七倍这个数字,你觉得可信吗?

得看基线怎么定.如果拿最啰嗦的提示词和最精简的结构化提示词比,差一个数量级不是没可能.但它多半是特定任务下的极端案例,不能当通用结论.

那从产品视角看,这种内容为什么这么火?

因为它戳中了成本焦虑啊.现在大家都在跑agent,任务一复杂token就哗哗涨,谁能省谁就是省钱.所以这类优化技巧天然有传播力.

不过我觉得也得提醒一句,别光盯着倍率,先把自己的任务拆清楚,看看瓶颈到底在上下文还是输出.

对,总结一下就是,token优化是真需求,但二十七倍这种数字要放到具体任务里看,别被标题带跑.

第二个热点更有意思,B站上一大堆AI Agent零基础教程,什么七百四十八集全教程,七天从小白到大神,学完即就业.

这个现象本身就值得聊.互动分从八百多到两千多都有,说明需求是真实存在的,大家是真想学怎么搭能干活的agent.

但你看到七百四十八集,七天变大神这种标题,第一反应是什么?

说实话,标题越夸张,内容越可能注水.agent开发的核心不是背API,是理解任务分解,工具调用和记忆管理之间的配合.

可反过来想,这么多教程能火,是不是也说明正经的入门材料还不够好?

你这么说我突然想到一个问题,官方文档往往假设你有工程背景,而大量想入门的人其实卡在第一步.教程填补的是这个空档,只是质量参差不齐.

那对想学的人有什么建议?

别追求集数,挑一个能跑通端到端小项目的教程,跟着做完一遍,比看七百集有用得多.

所以结论是,agent教程热反映的是真实的学习需求,但选材料要看能不能落地,标题就当个乐子.

嗯,今天这几条,从注意力机制到监管,再到教程潮,其实都指向同一件事:AI正在往工程化和普及化走.

说得挺好.那今天就聊到这儿,晚上见.