DEEPO
一种针对多模态大语言模型幻觉问题的双阶段强化学习优化方法，通过语义熵触发专家前缀与优势符号感知Renyi预处理两个分支，解决RL训练中优势坍缩和梯度饱和问题
时间轴 (近 90 天)
arXiv 上有一篇题为《DEEPO: Dual-Entropy Enhanced Policy Optimization for Hallucination in MLLMs》的论文，提出了双阶段增强方案以抑制多模态大模型的幻觉
DEEPO 是结合信号方差正则化与梯度预处理的双阶段增强方法，包含语义熵触发的专家前缀分支和优势符号感知的 Renyi 预处理分支
DEEPO 的专家前缀是动态触发的监督注入机制，只在查询的语义熵超过阈值时注入基于事实的引导性续写，以恢复优势的方差
优势符号感知的 Renyi 预处理用以抵消 logit 层面的饱和现象，使梯度信号在高置信度区域仍能有效传递，惩罚自信但错误的预测
在评估套件中最复杂的长程任务 VideoMMMU 上，DEEPO 两条分支的交互效应具有统计显著性，相比基线提升 +4.0（95% 置信区间 [1.1, 6.9]）
在其他任务上，DEEPO 两条分支的效果呈现可加性，即两者相加不会互相抵消
DEEPO 声称在降低幻觉的同时保持了模型准确率与训练稳定性
全部知识事实 (7)
优势符号感知的 Renyi 预处理用以抵消 logit 层面的饱和现象，使梯度信号在高置信度区域仍能有效传递，惩罚自信但错误的预测
50%待验证DEEPO 是结合信号方差正则化与梯度预处理的双阶段增强方法，包含语义熵触发的专家前缀分支和优势符号感知的 Renyi 预处理分支
50%待验证DEEPO 的专家前缀是动态触发的监督注入机制，只在查询的语义熵超过阈值时注入基于事实的引导性续写，以恢复优势的方差
50%待验证DEEPO 声称在降低幻觉的同时保持了模型准确率与训练稳定性
50%待验证在评估套件中最复杂的长程任务 VideoMMMU 上，DEEPO 两条分支的交互效应具有统计显著性，相比基线提升 +4.0（95% 置信区间 [1.1, 6.9]）
50%待验证在其他任务上，DEEPO 两条分支的效果呈现可加性，即两者相加不会互相抵消
50%待验证arXiv 上有一篇题为《DEEPO: Dual-Entropy Enhanced Policy Optimization for Hallucination in MLLMs》的论文，提出了双阶段增强方案以抑制多模态大模型的幻觉
50%