[控场AI]
· 8 分钟阅读· 4,305 字

AI/ML研究速递:视频扩散加速与智能体自进化新突破

AI/ML研究速递:视频扩散加速与智能体自进化新突破

本期速递覆盖视频扩散加速、具身智能、RL推理蒸馏、智能体评估与递归自我改进五大方向。

本期AI/ML研究速递梳理了arXiv上的最新进展,涵盖五个关键方向。生成模型效率方面,熵最优传输耦合将视频扩散梯度方差减半,Glance Forcing把PF-ODE成本从数千GPU小时压缩至一小时,FlashMask-3、FreeSolo与DeltaStreamer分别在长上下文训练和世界模型内存占用上实现加速。多模态具身智能方面,ScreenRef提供大规模GUI配对数据,GroundAnything实现秒级并行grounding,VLA-Δ以单次分类token替代自回归解码并在LIBERO匹配SOTA。强化学习推理方面,Token级在线策略蒸馏与跨教师守卫缓解多教师梯度冲突,推理链长度最多缩减65%。智能体评估方面,OpenGCUA统一测试平台将编码智能体得分提升约20分。递归自我改进方面,harness进化证明不更新权重也能持续提升基准性能。

AI/ML Research Digest 来源截图

本期AI/ML研究速递汇集了来自arXiv的最新论文,覆盖生成模型效率、多模态具身智能、强化学习推理优化、智能体评估环境以及递归自我改进等关键方向。以下是对各领域核心进展的深度梳理。

生成模型效率:从训练稳定到推理加速

视频扩散模型的训练和推理成本一直是落地瓶颈。本期多项工作从不同角度切入,试图在保持生成质量的同时大幅降低计算开销。

据arXiv论文[1],熵最优传输耦合(Entropic Optimal-Transport Couplings)被用于降低视频扩散梯度的方差,将积分误差减半。这一方法不仅稳定了训练过程,还提升了样本质量。其核心思路是通过更优的采样耦合策略,减少随机性带来的梯度噪声,让扩散模型在少步采样时也能保持高保真度。

另一项引人注目的工作是“Glance Forcing”[2],它提出一种慢/快专家蒸馏流水线,将原本需要数千步PF-ODE的计算压缩到一小时的算力内,同时在VBench评分上有所提升。这验证了策略性分区可以在不损失保真度的情况下将成本减半。对于视频生成的实际部署而言,这种专家分区思路具有直接的工程价值。

长上下文训练方面,MoE注意力内核FlashMask-3[3]和FreeSolo[4]通过复用稀疏模式,在Transformer工作负载上实现了显著加速。这对于需要处理长视频序列或大规模文档的模型训练尤为重要。

此外,DeltaStreamer[5]提出变化感知回放机制,仅存储状态增量而非完整状态,在保留视频世界模型时间动态的同时大幅降低内存占用和延迟。这种“只记变化”的思路与事件驱动架构有异曲同工之妙。

PF-ODE(Probability Flow ODE) 是扩散模型的一种确定性采样形式:它把随机微分方程(SDE)的扩散过程改写为一条由概率流决定的常微分方程,使得从噪声到数据的生成轨迹不再引入随机噪声。理论上 PF-ODE 与 SDE 边缘分布在每一时刻都相同,但前者可以配合高阶数值求解器实现更少步数的采样,并且支持精确的似然计算与可逆编码。代价是高质量采样往往仍需要数十到数千次函数评估,这正是 Glance Forcing 想要压缩的“数千步 PF-ODE 成本”。理解 PF-ODE 有助于把握扩散加速研究中“减少函数评估次数”与“保持轨迹保真度”之间的核心权衡。

熵最优传输耦合(Entropic Optimal-Transport Coupling) 源于最优传输理论:在扩散模型的训练目标中,需要把噪声分布与数据分布之间的样本进行配对(coupling),不同配对方式会显著影响训练梯度的方差。最优传输寻求使传输代价最小的配对,而加入熵正则项后得到的熵最优传输耦合既保留了低代价特性,又可通过 Sinkhorn 等迭代算法高效求解,并保持配对的随机性以覆盖整个分布。相比独立随机配对,这种耦合能让每个噪声样本对应更“合理”的数据样本,从而降低梯度方差、加快收敛并改善少步采样的样本质量,这也是文中“将积分误差减半”的机制来源。

多模态具身智能:屏幕理解与机器人控制并进

具身智能体需要将视觉感知、语言理解和动作控制紧密结合。本期研究在GUI grounding、并行解码和视触觉融合方面均有突破。

ScreenRef[6]提供了数百万张GUI截图与文本描述的配对数据,基于该数据训练的模型在屏幕任务基准上刷新了纪录。高质量数据始终是grounding能力的基础,这一数据集的规模和质量值得关注。

GroundAnything[7]则从解码策略入手,采用双向扩散与分块去噪实现跨数十个grounding任务的并行解码,将推理时间从分钟级压缩到秒级。这种“闪速”grounding对于交互式智能体至关重要。

在机器人控制侧,同步的自我中心视触觉数据集[8][9]推动了全身机器人控制管线的发展,使机器人能够实时协调肢体运动与触觉反馈。视觉与触觉的同步采集是训练多模态控制策略的关键前提。

VLA-Δ[10]提出以决策为中心的架构,用单次分类token替代昂贵的自回归解码,在LIBERO基准上匹配了当前最优结果,同时改善了空间推理能力。这一设计简化了视觉-语言-动作管线,为实时机器人控制提供了更高效的方案。

动态路由机制[11]在文本和视觉记忆模块之间进行选择,将计算聚焦于每一步最相关的模态,从而提升长视野GUI任务的成功率。这种“按需分配注意力”的思路在资源受限的智能体场景中尤为实用。

强化学习推理:蒸馏与奖励塑形的新思路

在LLM推理能力提升方面,在线策略蒸馏和强化学习效率成为焦点。

Token级在线策略蒸馏[12][13][14]将学生模型的隐藏状态与教师信号对齐,并加入门控机制进行信用分配,在数学和工具使用基准上取得提升。这一方法的核心在于细粒度的监督信号传递,而非粗粒度的输出匹配。

跨教师守卫(Cross-teacher guarding)[15]通过选择性门控多个教师模型来解决梯度冲突,在多教师RL设置中带来了可观的准确率增益。多教师蒸馏中的梯度冲突是一个实际难题,该工作提供了工程上可行的解决方案。

奖励塑形方面,重新激活潜在“THINK”模式的方法[16][17]将推理链长度削减最多65%,同时保持答案正确性。这意味着模型可以在不牺牲准确率的前提下大幅降低推理成本。而反向思维链翻译器CoTranslator[18]则以极低的计算成本复现了完整CoT提示的收益,为推理蒸馏提供了更经济的路径。

在线策略蒸馏(On-Policy Distillation) 指学生模型在自己的策略分布上采样轨迹,再由教师模型对这些轨迹给出监督信号,而不是只在固定的离线数据上模仿教师输出。由于训练分布与学生当前行为一致,它能缓解离线蒸馏中的分布偏移问题,但代价是需要频繁调用教师模型,且当存在多个教师时容易出现梯度方向冲突。Token 级蒸馏进一步把监督粒度从整条序列细化到每个 token 的隐藏状态,并借助门控机制做信用分配,判断哪些 token 应更多采纳教师信号。跨教师守卫正是在这一背景下,通过选择性门控不同教师来缓解多教师梯度冲突。

智能体评估与规模化环境

智能体的能力提升离不开可扩展的评估环境和基准测试。

OpenGCUA[19]整合了可视化前端、程序化API和执行框架,这一模块化栈将编码智能体得分提升了约20分。统一测试平台的价值在于降低评估摩擦,让不同智能体在相同条件下公平比较。

自动化基准方面,MetaKernelBench[20]和GraphDecisionBench[21]为GPU内核和图形决策模型提供了低成本的正确性诊断,可扩展到数千个程序。这对于需要频繁迭代的智能体训练至关重要。

AMLworld-Compact[22]采用重要性加权下采样加速反洗钱LLM评估,在不牺牲检测能力的前提下支持频繁的安全审计。这一方法展示了如何用统计采样技术降低评估成本。

双系统研究智能体[23][24]将快速证据检索与审慎规划分离,在严格算力预算下扩大了覆盖范围。这种“快慢分离”的架构与认知科学中的双过程理论相呼应,在实际研究任务中表现出更好的算力效率。

递归自我改进:不改权重也能提升性能

本期最值得关注的方向之一是递归自我改进(Recursive Self-Improvement)。

即插即用的递归harness系统[25]通过反复精炼执行管线,在不改变模型权重的情况下实现了持续的基准提升。这一结果挑战了“性能提升必须依赖权重更新”的默认假设,表明软件层面的进化循环本身就能驱动进步。

RSI-Anything[26]提出对比式“提议-探测-组合”循环,在提升代码修复和GUI性能的同时提供了PAC风格泛化保证。泛化保证的引入让递归自我改进从经验性尝试向理论可分析方向迈进了一步。

轻量级进化优化器Harness²[27]则通过迭代升级管线,在多个领域实现了可测量的效率增益。这些工作共同指向一个趋势:智能体的改进可以发生在模型权重之外的软件层,且这种改进具有可累积性。

Harness(执行外壳/测试框架) 在智能体语境中指的是包裹基础模型的整套外围代码与流程:包括提示模板、工具调用协议、上下文管理、重试与校验逻辑、任务分解策略等。模型权重决定“能力上限”,而 harness 决定这些能力被组织和调用的方式。递归自我改进中的 harness 进化,就是让系统反复评估自身在基准上的表现,并自动修改这套外围管线(如调整提示、增删校验步骤、重组工具链),再把改动后的 harness 重新投入评估,形成“提议—探测—组合”的循环。由于不触碰权重,这种方法成本低、可回滚,且改进可以在软件层累积,但也依赖可靠的自动评估信号来避免过拟合基准。

值得关注的重点论文

  • Glance Forcing[2]:将PF-ODE成本从数千GPU小时降至一小时,同时提升VBench分数,验证了专家分区在视频扩散中的成本减半效果。
  • VLA-Δ[10]:以单次token替代自回归解码,在LIBERO上匹配SOTA并改善空间推理,为实时VLA提供了新范式。
  • QuantMLA[28]:双路径量化同时缓存内容和RoPE至低精度格式,在长上下文任务上实现大幅吞吐提升且精度影响可忽略。
  • ClawLoop[29]:构建闭环自合成任务、自训练、自迭代的编码智能体,无需外部教师即可在编码基准上缩小与全强度模型一分的差距。
  • Harness Evolution[25]:证明仅进化执行harness即可跨领域提升性能,为无需权重更新的自我改进开辟了新路径。

其他值得注意的细节

Jag[30]将预训练多模态编码器转换为直接边界框回归头,在提升屏幕任务grounding精度的同时降低了推理延迟。Cross-teacher guarding[15]在数学和工具使用基准上的增益表明,梯度冲突缓解在多教师RL蒸馏中具有实际价值。Stateless语言智能体[31]将持久存储与活跃推理解耦,在长视野研究任务中降低token消耗而不损害性能,这对降低智能体运行成本具有直接意义。

#视频扩散模型#多模态具身智能#强化学习蒸馏#智能体自我改进#AI研究速递#VLA架构#长上下文优化
分享:

相关推荐