arxiv.org·2026/10/21
针对长视频生成随历史增长带来的token成本,ReCam把历史latents分成时空块并经轻量MLP投影到DiT隐空间,生成的记忆token按顺序参与原生注意力,在降低token数的同时保留全历史块级访问;dual-pointer denoising给近期上下文与当前目标帧分配不同噪声调度,抑制自回归推演中的误差漂移。模型由Wan2.2-I2V高噪声专家初始化,训练将历史长度逐步延至30秒。作者报告ReCam在VBench-Long上以80.1取得全部对比方法中最高总分;在离屏主体重现的四项一致性指标上均领先,衣服一致性4.09高于最佳基线3.03;在R2M-Bench静态场景重访中保持竞争。消融显示dual-pointer denoising优于clean/single context,默认块形状在效率与质量间取得平衡。作者认为域外可靠记忆使用仍是开放挑战,相机精度与多次返回一致性仍有不足。
为什么重要 为长视频生成提供全历史记忆方案,内存开销与 5 秒视频相当;对世界模型与流式生成的记忆工程有直接借鉴适合 做长视频生成、世界模型记忆、流式 rollout 的多模态工程师与研究者
长时程视频生成需要保留不断扩展的历史,但以其不断增长的 token 序列作为条件代价高昂。现有方法限制或压缩历史上下文,可能丢失未来生成所需的信息。本工作提出 ReCam,它将历史潜变量的局部时空块分组为向量,并将它们直接投影到 Diffusion Transformer 的高维隐藏空间。
该模型通过原生自注意力学习使用由此产生的记忆 token,在减少 token 数量的同时保留对整个历史的块级访问。为了缓解自回归展开期间的时间漂移,我们进一步引入双指针去噪,为近期上下文和目标帧使用单独的噪声调度。在评估的方法中,ReCam 取得了最高的 VBench-Long 总分 80.1,并在 R2M-Bench 上具有有竞争力的静态场景重访性能。
它在画面外主体重新出现的所有一致性指标上也领先,包括服装一致性为 4.09,而最佳基线为 3.03。
Long-horizon video generation requires retaining an ever-expanding history, but conditioning on its growing token sequence is costly.
Existing methods restrict or compress historical context, potentially losing information needed for future generation.
This work proposes ReCam, which groups local spatiotemporal blocks of historical latents into vectors and projects them directly into the high-dimensional hidden space of a Diffusion Transformer.
The model learns to use the resulting memory tokens through native self-attention, reducing token count while retaining block-level access to the full history.
To mitigate temporal drift during autoregressive rollout, we further introduce dual-pointer denoising with separate noise schedules for recent context and target frames.
Among the evaluated methods, ReCam achieves the highest VBench-Long overall score of 80.1 and competitive static-scene revisitation performance on R2M-Bench.
It also leads on all four consistency metrics for off-screen subject reappearance, including clothing consistency of 4.09 versus 3.03 for the best baseline.
注释 · 30 秒 480p I2V 协议测评;Helios 用 368p 训练分辨率出自 Table 1


EVIDENCE / METHODS
表格
ReCam 衣服一致性 4.09,明显高于最佳基线 LingBot-World-Fast 的 3.03
| Method | Face↓ | Character↓ | Background↓ | Clothes↑ |
|---|---|---|---|---|
| FramePack-F1 | 0.578 | 12.54 | 0.043 | 2.44 |
| Helios | 0.748 | 13.91 | 0.063 | 1.82 |
| LongLive 2.0 | 0.626 | 13.18 | 0.239 | 2.25 |
| Sana-WM Streaming | 0.642 | 11.67 | 0.073 | 2.39 |
| LingBot-World-Fast | 0.591 | 10.84 | 0.079 | 3.03 |
| LingBot-World-2-Fast | 0.654 | 12.07 | 0.114 | 1.58 |
| ReCam | 0.561 | 9.90 | 0.028 | 4.09 |
注释 · Face/Character/Background 越低越好,Clothes 越高越好;All 列出自 Table 3
原版排版与图表 · 手机无法内嵌时可在浏览器打开。PDF 插件内选文不能传给网页助手。