AI 研究助理

基于站内最新资料,回答 AI 前沿问题

回答带出处引用,支持多轮追问,当前页面内容会作为上下文

快速响应
AI 前沿跟踪
今日首页重点内容GitHub 趋势榜
领域
学术研究
大模型
具身智能
AI 基础设施
智能体 · Skill · MCP
机器人
多模态
自动驾驶
数据 / MLOps
AI 硬件
安全对齐
综述与报告
论文具身智能世界模型具身智能3D动态视频生成

DeXplicit: Making Physical State Explicit in Dexterous Manipulation World Models

查看原文(PDF)
AI 解读已生成 · AI 生成,数字以原文为准
AI 全文总结值得深入基于论文全文 3.2 万字 · 完整阅读

DeXplicit 在生成视频前显式预测物体 3D 状态,moved-point 误差降低 27–40%

DeXplicit面向灵巧操作世界模型,解决动作条件视频生成把三维动力学、相机与外观合成纠缠在像素中而难以保持物体姿态一致的问题。它先做显式三维状态预测:给定初始场景与未来手部轨迹,轻量动力学网络用关节感知动作编码、共享物体级旋转平移和控制节点局部变形输出度量三维点及置信度,再做有界位姿修正与度量对齐细化;随后把初始图像VAE特征沿预测三维运动传输投影,配合置信度门控软掩码,让视频主干只补全不确定或新可见区域。在HOT3D、OakInk2、PhysTwin上,相对PointWorld的长期moved-point误差分别下降39.9%、28.0%、27.1%,HOT3D对象IoU+升至0.549;因果版逐块少步去噪,相对双向大模型配置提速57倍。消融表明结构化transport、场景轨迹、手部条件与外观传输递进改善动力学和视频指标。作者提醒生成未来可能误表达物理结果,不适合安全关键控制。

  1. 1显式 3D 状态先行,渲染器只补足不确定或新可见区域
  2. 2HOT3D 上 object IoU+ 从 0.373 升至 0.549
  3. 3三数据集长期 moved-point 误差降低 27–40%

为什么重要 3D 先行把动力学与渲染解耦,视频生成器无需从像素隐式学物理,降低数据与算力需求,直接服务具身数据闭环的仿真与评估适合 从事具身智能世界模型、灵巧操作仿真与视频合成工程落地的研究者

来源
arxiv.org
发布
2026/10/23

中文(AI 翻译)

在作用于物体之前,机器人需要预判其手部动作将如何改变物理世界,以及所产生的场景将是什么样子。现有方法通常将动作条件动力学、相机运动和视觉合成纠缠在一个视频生成模型中,或将动力学表示为点轨迹而缺乏显式物体结构。我们提出 DeXplicit,一个灵巧操作世界模型,它先在度量 3D 中显式预测世界如何演化,再渲染其视觉结果。

给定初始场景和未来手部轨迹,一个轻量级 3D 动力学网络预测以物体为中心的运动与形变,提供结构化且几何上可依据的未来世界状态。这些预测随后作为视频生成的强支架:外观通过预测的 3D 运动被传递并投影到未来视角,使渲染器能够专注于补全不确定的和新出现的内容,而不是从像素中隐式学习世界动力学。这种显式 3D 先行的分解还实现了高效因果生成,在每个块上仅需 2 个去噪步骤,同时以生成的历史为条件。

在 HOT3D、OakInk2 和 PhysTwin 上,相对于 PointWorld,DeXplicit 将 moved-point error 降低了 27-40%,并在共享渲染器下将 HOT3D 上的 object fidelity IoU+ 提高了 47%。我们的两步因果生成设计相对于 14B 双向配置在视频合成中实现了 57x 加速。

原文

Before acting on an object, a robot needs to anticipate how its hand motion will change the physical world and what the resulting scene will look like.

Existing approaches typically entangle action-conditioned dynamics, camera motion, and visual synthesis within a video generation model, or represent dynamics as point trajectories without explicit object structure.

We introduce DeXplicit, a dexterous manipulation world model that instead predicts how the world evolves explicitly in metric 3D before rendering its visual consequences.

Given an initial scene and a future hand trajectory, a lightweight 3D dynamics network predicts object-centric motion and deformation, providing structured and geometrically grounded future world states.

These predictions then serve as a strong scaffold for video generation: appearance is transported through the predicted 3D motion and projected into future views, allowing the renderer to focus on completing uncertain and newly visible content rather than implicitly learning world dynamics from pixels.

This explicit-3D-first decomposition also enables efficient causal generation, requiring only two denoising steps per block while conditioning on generated history.

Across HOT3D, OakInk2, and PhysTwin, DeXplicit reduces moved-point error by 27-40% relative to PointWorld and improves object fidelity IoU+ by 47% on HOT3D under a shared renderer.

Our design with two-step causal generation achieves a 57x speedup from our 14B bi-directional configuration in video synthesis.

  • HOT3D·PointWorld
    90.47mm
  • HOT3D·DeXplicit
    54.34mm
  • OakInk2·PointWorld
    83.21mm
  • OakInk2·DeXplicit
    59.95mm
  • PhysTwin·PointWorl
    60.41mm
  • PhysTwin·DeXplicit
    44.04mm

注释 · 同一初始场景点与 3D 手关节轨迹输入,误差按有效 point-time 计数加权,单位 mm出自 Table 1(a)

  • Direct points
    63.35mm
  • action differenc
    59.84mm
  • joint-aware
    56.18mm
  • structured trans
    51.08mm
  • metric-aligned
    50.18mm
  • local graph
    49.25mm

注释 · 每一步在前一步基础上递增组件,误差为 L2 距离,单位 mm出自 Table 3

系统总览:Joint-aware 动作编码驱动 object-centric 度量动力学,共享 transport 与局部变形经 metric-aligned refinement 修正姿态,再供给置信门控视觉读出
六例定性 3D 动力学,横跨刚体 transport、铰接与变形,PointWorld 与 DeXplicit 叠放同一参考帧,EPE 以毫米计量参考支撑点
视频生成定性对比,方框标出后帧被操作物体,DeXplicit 保持物体身份、形状与外观
数据集
HOT3D, OakInk2, PhysTwin
分辨率
480×832
GPU
单块 NVIDIA A800
条件模型
1.3B
双向基线
14B

深度总结

1 / 6
显式 3D 状态分解的三个支柱· 要点卡片

3D 动力学与视频合成分离,渲染器只做渲染而非隐式学世界规律

01

Joint-aware 编码

动作

每关节特征含 wrist-relative 位置、位移 Δp、bone 向量 bt,h,j​ 及有效性标志,再加关节身份、手侧与时间嵌入

02

Object-centric 动态

状态

共享全局旋转/平移保证物体级 coherent 运输,K 个控制节点表达铰接与变形残差

03

置信门控读出

渲染

初始外观经预测 3D 运动投影,软编辑掩码 Mt=1−q_proj^t 决定哪些区域保留或交由生成器合成

注释 · 显式中间态让物体运动可测量、可监督,降低视频模型对隐式动力学的依赖出自 §4.1, §4.3