模型Metacognitive Controller
元认知控制器
嵌入扩散语言模型的轻量级插件,通过分析去噪状态和交互历史动态决定何时停止生成及生成长度,实现计算资源动态分配。
时间轴 (近 90 天)
10月28日
元认知控制器是一个轻量级插件,嵌入扩散主干网络,通过分析当前去噪状态和交互历史,预测是否应最终确定当前token以及生成应延伸到多远。
待验证50%
10月28日
元认知控制器不直接生成token,而是观察主干网络的中间状态(如去噪步的置信度分布、隐藏层激活)以及代理与环境的交互历史,输出两个决策信号。
待验证50%
10月28日
元认知控制器训练时通过强化学习或可微决策目标在代理轨迹上优化,以在正确性与计算成本之间取得平衡。
待验证50%
10月28日
与最高效的基线相比,元认知控制器平均减少20.6%的推理FLOPs,同时保持有竞争力的任务准确率。
待验证50%
10月28日
消融实验证实了元认知控制器各组件的有效性。
待验证50%
10月28日
元认知控制器方法与现有的扩散加速技术正交,可叠加使用。
待验证50%
全部知识事实 (6)
待验证
元认知控制器是一个轻量级插件,嵌入扩散主干网络,通过分析当前去噪状态和交互历史,预测是否应最终确定当前token以及生成应延伸到多远。
50%待验证元认知控制器不直接生成token,而是观察主干网络的中间状态(如去噪步的置信度分布、隐藏层激活)以及代理与环境的交互历史,输出两个决策信号。
50%待验证元认知控制器训练时通过强化学习或可微决策目标在代理轨迹上优化,以在正确性与计算成本之间取得平衡。
50%待验证与最高效的基线相比,元认知控制器平均减少20.6%的推理FLOPs,同时保持有竞争力的任务准确率。
50%待验证消融实验证实了元认知控制器各组件的有效性。
50%待验证元认知控制器方法与现有的扩散加速技术正交,可叠加使用。
50%