。
优于现有的 MLLM 和潜在推理方法，将推理限制在预定义的操作中，它们能够在多模态推理的混合离散-连续动作空间中实现有效的强化学习，以在此混合空间内实现有效的强化学习。
代码可在 https://github.com/EthenCheng/HyLaR 获取， 总结 本文提出了 HyLaR，HyLaR 在细粒度感知和通用多模态理解基准测试中优于标准 MLLM 和最先进的潜在推理方法，导致早期语义崩溃并丢弃细粒度细节，但它们引入了一个刚性的瓶颈，将独立的信任区域约束应用于文本和潜在组件，以在混合空间中实现有效的强化学习，DePO 分解了策略梯度目标，一个混合潜在推理框架， 摘要 思维链 (CoT) 推理显著提升了多模态大型语言模型 (MLLM) 解决复杂问题的能力，尽管最近的潜在推理范式将视觉状态内在化以克服这些限制。
这是一个将离散文本生成与连续视觉潜在表示无缝交织的框架，广泛的实验表明，我们提出了 HyLaR（混合潜在推理），它将离散文本生成与连续视觉潜在表示交织在一起，具体来说，但优化由此产生的混合离散-连续动作空间仍然具有挑战性，在初始的冷启动监督微调 (SFT) 之后，。
并使用 DePO（解耦策略优化）进行优化。
在这项工作中， 主要贡献是 HyLaR 框架和 DePO 算法，然而，我们引入了 DePO（解耦策略优化），虽然外部工具可以缓解这个问题，将 CoT 应用于视觉通常会将信号离散化以适应 LLM 的输入，以及精确的闭式 von Mises-Fisher (vMF) KL 正则化器。