LARC：连续空间隐式推理，破解多模态生成难题
LARC将推理从离散token迁移到连续隐状态空间，解决多模态生成的模态错配问题。
文章介绍了统一多模态模型在利用语言链式思维辅助图像生成时遭遇的瓶颈，并将其归因于离散token推理与连续图像生成之间的模态错配。为此提出的LARC框架在高维隐藏状态上进行隐式推理，通过课程监督微调实现从token推理到隐式推理的平滑过渡，再以信息增益强化学习驱动无监督自进化。实验显示LARC在多个文生图基准上提升生成质量、提示词跟随与组合保真度，GenEval上相比BAGEL提升7个百分点并达到最优，同时展现出清晰的测试时缩放行为，为多模态生成模型的推理增强提供了可复用范式。
统一多模态模型（UMMs）在多模态理解与生成任务上表现亮眼，但在利用语言链式思维（CoT）辅助图像生成时却屡屡碰壁。现有推理增强型UMMs无法继承大语言模型（LLMs）中观察到的测试时缩放与细粒度可控性。研究者将失败归因于根本性的模态错配：推理发生在离散token空间，而图像生成运行在连续空间。为此，论文提出连续空间隐式推理框架LARC（Latent Reasoning in Continuous space），通过在高维隐藏状态上进行推理来缓解token级别的瓶颈。实验表明，LARC在多个文生图基准上一致提升生成质量、提示词跟随与组合保真度，并在GenEval上取得领先成绩。
模态错配：CoT推理与图像生成的鸿沟
UMMs试图将文本理解与图像生成统一在同一架构下，但语言推理的离散token序列与图像生成的连续表征之间存在天然隔阂。当模型在token空间进行CoT推理时，每个推理步骤都被压缩为离散符号，丢失了连续空间中丰富的语义梯度信息。这种信息损失导致推理链条难以精确指导像素级生成，模型无法像LLMs那样通过增加推理步数来稳定提升输出质量。
论文指出，正是这种模态错配使得推理增强型UMMs在测试时缩放（test-time scaling）和细粒度控制上表现不佳。传统方法将推理视为离散符号操作，而图像生成需要连续空间中的平滑调控，两者难以对齐。LARC的提出正是为了在连续隐状态空间中完成推理，从而保留更多语义细节。
链式思维（CoT, Chain-of-Thought） 最初是大语言模型中的一种提示与推理范式：模型在给出最终答案前，显式地生成一系列中间推理步骤，从而把复杂问题分解为可管理的子问题。在LLMs中，CoT带来的关键收益是测试时缩放——推理步数或采样次数越多，准确率通常越高。然而在统一多模态模型中，CoT的中间步骤以离散token形式存在，每一步都必须经过词汇表映射，这与扩散模型等图像生成器所依赖的连续隐变量序列在表示形式上并不兼容，因此直接套用CoT往往无法把语义推理的收益传递到像素生成环节。
LARC的两阶段训练框架
LARC的训练流程分为两个阶段：课程监督微调（curriculum SFT）与信息增益强化学习（information-gain RL）。第一阶段通过课程式SFT逐步将token级推理转换为隐式推理，让模型学会在连续隐藏状态中完成推理步骤。第二阶段则利用信息增益RL，在无真实标注监督的情况下让隐式推理自我进化。
这种设计的关键在于，课程SFT提供了从离散到连续的平滑过渡，避免模型直接跳入隐空间导致训练不稳定；而信息增益RL则通过奖励推理过程带来的信息增量，驱动模型探索更有效的隐式推理路径。两阶段结合，使LARC既能继承SFT的稳定性，又具备RL的自进化能力。
课程监督微调（Curriculum SFT） 借用了课程学习的思想：训练样本按难度或形式由易到难排列。在LARC中，这意味着先从接近原始token推理的样本入手，再逐步过渡到隐式推理目标，使模型参数不会因目标分布突变而产生灾难性漂移。信息增益强化学习 则指以推理过程带来的信息增量作为奖励信号——例如隐状态推理相比无推理基线降低的不确定性或提升的预测似然——而非依赖人工标注的最终答案。这种奖励设计使得模型可以在缺乏配对监督的图像生成任务上进行自我改进，是LARC实现无监督自进化的关键机制。
实验表现：生成质量与测试时缩放双赢
在多个文生图基准上，LARC一致提升了生成质量、提示词跟随和组合保真度。尤其有意思的是，在GenEval基准上，LARC相比BAGEL取得了7个百分点的提升，达到当前最优性能。这一结果验证了连续空间隐式推理的有效性。
更关键的是，LARC展现出清晰的测试时缩放行为：在并行与串行两种测试时缩放策略下，LARC均优于基于token的生成方法。这意味着，通过增加推理计算量，LARC能够持续改善生成结果，而传统token级方法则难以享受这种缩放红利。这一特性对于实际部署挺重要的，因为它允许系统在推理阶段灵活调整计算预算以平衡质量与效率。
GenEval 是文生图领域常用的组合式评测基准，通过对象数量、颜色、空间关系、属性绑定等细粒度子任务，检验模型是否真正理解提示词的结构化语义，而非仅生成视觉上合理的图像。BAGEL 则是具有代表性的开源统一多模态模型，同时具备理解与生成能力，常被用作推理增强型UMMs的对比基线。LARC在GenEval上相对BAGEL提升7个百分点，说明连续隐式推理带来的收益主要体现在组合保真度这类需要精确语义对齐的维度上，而不仅是整体图像美观度。
对多模态生成领域的启示
LARC的成功揭示了几个重要方向。连续空间推理有望成为多模态生成的新范式，打破离散token的桎梏。课程SFT与信息增益RL的结合为训练隐式推理模型提供了可复用的框架。测试时缩放行为在连续空间中的复现，意味着多模态生成模型可以像LLMs一样通过增加推理步数来提升性能，这为构建更可控、更可靠的生成系统开辟了新路径。
尽管LARC仍处于研究阶段，但其思路对统一多模态模型的推理增强具有普遍参考价值。未来工作或可探索更复杂的隐式推理结构，以及将LARC扩展到视频、3D等更多连续模态生成任务中。
相关推荐
MiniMax H3开源工作流：低显存也能打造呼吸感皮肤
本文介绍B站UP主分享的MiniMax H3双采样工作流，通过融合模型、破线LoRA和低显存节点，解决AI人物面部油腻问题，并让12G显存设备也能运行。包含模型搭配、双采样逻辑与参数设置详解。
手机本地大模型+ESP32：自制热量提醒器
B站UP主开源了一个热量摄入提醒器项目：手机APP用miniCPM开源模型本地拍照识别食物并估算热量，ESP32小屏幕同步数据，用绿黄红圆环展示摄入状态，可磁吸在冰箱门上随时提醒。
12GB显卡跑125B MoE？Strata三级协同引擎解析
开源C++引擎Strata让12GB-16GB家用显卡本地跑125B MoE模型，生成速度达40-95 Token/s。本文拆解其显存、内存、固态三级协同原理，说明模型选型前提、硬件配置门槛与启动方式。