arxiv.org·2026/10/23
长链视觉语言推理只拿最终答案奖励,模型易在生成中偏离图像。论文把这种回看定义为visual revisit:跨模态注意力在语言推理后的局部上升;峰值遮蔽比随机遮蔽更损害准确率,峰值注入可部分恢复失败轨迹中的正确回答,且该信号不由注意力总量、不确定性、logit margin 或隐状态范数解释。作者提出RECAP,与GRPO兼容:从相同前向提取断开轨迹,经轨迹增强输入、动态折扣和门控价值预测,把终端奖励分配到关键回看步;无额外奖励、rollout或推理改动。Qwen、InternVL、LLaVA等主干的幻觉、推理、grounding、纯文本、中文零样本、扰动和人评显示,作者报告HallusionBench较GRPO提升+3.5至+4.1并超过VPPO,同时保持推理与文本能力;局限是依赖可靠跨模态注意力,短答、纯文本或显著干扰物下收益受限。
为什么重要 对 VLM RL 后训练可直接落地:只换优势估计,不改采样/奖励/推理,缓解长 CoT 视觉漂移。适合 做 VLM RL 后训练或多模态落地的工程师,关注零推理成本的视觉接地改进。
长链思维推理改进了视觉语言模型(VLMs),但也暴露出时间上的视觉基础失效:随着生成展开,模型可能偏离图像证据,而强化学习仍只提供最终答案奖励。我们通过 visual revisit 研究这一差距,visual revisit 是推理过程中图像证据在时间上局部化的重新激活。
在三个 VLM 骨干上,revisit 峰值可预测正确性,并与性能存在因果关联:掩蔽这些峰值比掩蔽非峰值更严重地降低准确率,而将类似 revisit 的峰值注入失败 rollout 可部分恢复正确答案。对照分析显示,这一信号不能被原始注意力强度、不确定性、logit margin 或隐藏状态范数所解释。
我们提出 RECAP,一种与 GRPO 兼容的训练方法,将分离的 revisit 轨迹转化为信用分配信号。RECAP 使用 revisit 条件优势估计、动态折扣和门控价值预测,将最终奖励传播经过视觉上重要的推理步骤,而无需额外奖励、额外 rollout 或推理时改动。在 Qwen2.5-VL-7B、InternVL3-8B 和 LLaVA-OV-7B 上,RECAP 一致优于 GRPO 和 VPPO,相比 SFT 基准在 HallusionBench 上提升 +6.1--+6.5,同时保持推理和纯文本性能。在更大 LoRA 微调模型、中文零样本基准、视觉扰动和人类评估上的结果进一步表明,图像基础推理得到了稳健改进。
Long chain-of-thought reasoning improves vision-language models (VLMs), but it also exposes a temporal grounding failure: as generation unfolds, models may drift from image evidence while reinforcement learning still provides only a final-answer reward.
We study this gap through visual revisit, a temporally localized reactivation of image evidence during reasoning.
Across three VLM backbones, revisit peaks are predictive of correctness and causally linked to performance: masking them degrades accuracy more than masking non-peaks, while injecting revisit-like peaks into failed rollouts partially restores correct answers.
Control analyses show that this signal is not explained by raw attention strength, uncertainty, logit margin, or hidden-state norm.
We propose RECAP, a GRPO-compatible training method that turns detached revisit traces into a credit-assignment signal.
RECAP uses revisit-conditioned advantage estimation, dynamic discounting, and gated value prediction to propagate final rewards through visually important reasoning steps, without extra rewards, additional rollouts, or inference-time changes.
Across Qwen2.5-VL-7B, InternVL3-8B, and LLaVA-OV-7B, RECAP consistently improves over GRPO and VPPO, yielding $+6.1$--$+6.5$ HallusionBench gains over the SFT base while preserving reasoning and text-only performance.
Results on larger LoRA-tuned models, Chinese zero-shot benchmarks, visual perturbations, and human evaluation further demonstrate robust improvements in image-grounded reasoning.
Qwen ΔSFT
高于 SFT base
InternVL ΔSFT
高于 SFT base
LLaVA ΔSFT
高于 SFT base
注释 · 表中 HallusionBench 为 8 种子平均,匕首号表示 Holm-Bonferroni 后显著优于 GRPO出自 Table 1
注释 · 单骨干主结果,三模型趋势一致;TVC 无 RL 参考 61.4出自 Table 1

EVIDENCE / METHODS
表格
移除动态折扣掉到 64.3,移除门控价值掉到 65.2,方差升至 1.70×
| 配置 | Hallusion | Var(At) rel. |
|---|---|---|
| Full RECAP | 66.6 | 1.00× |
| − Trace-augmented estimator state (K=0) | 65.8 | 1.08× |
| − Gated value (Vloc=Vvis) | 65.2 | 1.70× |
| − Dynamic discount (β=0) | 64.3 | 1.09× |
| − Stop-gradient on r~t | 60.8 | 2.35× |
注释 · Var(At) 相对值以 Full RECAP 为 1.00×;stop-grad 移除致最大性能崩坏出自 Table 2
原版排版与图表 · 手机无法内嵌时可在浏览器打开。PDF 插件内选文不能传给网页助手。