arxiv.org·2026/10/23
无人机机械臂的空中操作中,臂动持续改变质心与惯性并施加扰动力矩,飞行控制器须在线自适应。ALMA 以 GRU 循环上下文策略从近期测量与动作中选取旋翼指令,借鉴 JEPA,用动作条件下的未来测量表征预测监督上下文保留响应信息;LLM 分析训练记录中跟踪困难的片段,主动生成新的臂运动结构扩充经验;训练以 PPO 联合控制回报与预测损失,两套机制仅用于训练,部署只保留上下文策略。仿真中与 PID、NMPC 等基线对比,ALMA 位置 RMSE 较最强基线 NMPC 最高降低 24.7%;同一策略零样本迁移到实体空中机械臂,周期臂动下悬停位置 RMSE 从 PID 的 15.55 cm 降至 3.17 cm,降幅 79.6%。消融显示预测监督改善跟踪、LLM 任务生成改善分布外泛化;局限是偏航跟踪不及 PID–INDI,后续拟研究接触感知控制。
为什么重要 LLM 在环任务生成把评测信号变成数据生产:单卡 1 小时、$15 一轮,是低成本数据闭环模板适合 具身智能数据闭环、sim-to-real 与 LLM 课程生成方向的工程师与研究者
Loco-manipulation 通过将移动性与物理交互相结合来扩展传统操作的工作空间,而 aerial loco-manipulation 进一步将这种能力扩展到三维空间,使机器人能够到达地面系统无法进入的环境。然而,转移到空中平台带来了一个要求很高的控制问题,因为飞行器必须在三维空间中精确跟踪轨迹,同时机械臂的运动及其与环境的交互会持续改变质心、改变惯量,并对机体施加力和力矩扰动。传统控制器通过显式模型和估计来处理这些效应,而基于学习的控制器从经验中推断动力学,但控制奖励没有为历史中保留的响应信息提供直接目标,并且固定的任务采样可能使持续存在的跟踪困难得不到充分探索。
我们提出 ALMA,一个用于外部机械臂指令下自适应飞行控制的空中 loco-manipulation 框架。ALMA 采用一种上下文飞行策略,该策略根据最近的测量和动作进行自适应,利用动作条件下的未来测量表示预测来训练其上下文,以保留与飞行控制相关的响应信息。为了扩展这种自适应可用的经验,一个演化过程使用大语言模型(LLM)分析观察到的控制困难,并为后续训练提出新的机械臂运动结构。
在仿真中,相对于最强基线,ALMA 将位置均方根误差(RMSE)降低了最高 24.7%,而同样的策略零样本迁移到空中机械臂上,在周期性机械臂运动期间相对于真实世界基线将悬停位置 RMSE 降低了 79.6%。
Loco-manipulation extends the workspace of conventional manipulation by combining mobility with physical interaction, while aerial loco-manipulation further expands this capability into three-dimensional space, enabling robots to reach environments inaccessible to ground-based systems.
Moving to an aerial platform, however, gives rise to a demanding control problem, since the vehicle must track trajectories accurately in three dimensions while the motion of the arm and its interaction with the environment continuously shift the center of mass, alter the inertia, and impose force and moment disturbances on the body.
Conventional controllers address these effects through explicit models and estimation, whereas learning-based controllers infer dynamics from experience, yet control rewards provide no direct target for the response information retained from history, and fixed task sampling can leave persistent tracking difficulties insufficiently explored.
We present ALMA, an aerial loco-manipulation framework for adaptive flight control under external arm commands.
ALMA employs a contextual flight policy that adapts from recent measurements and actions, using action-conditioned prediction of future measurement representations to train its context to retain response information relevant to flight control.
To expand the experience available for this adaptation, an evolutionary process uses a large language model (LLM) to analyze observed control difficulties and propose new structures of arm motion for subsequent training.
In simulation, ALMA reduces position root-mean-square error (RMSE) by up to 24.7% relative to the strongest baseline, while the same policy transfers zero-shot to the aerial manipulator and reduces hover position RMSE by 79.6% during periodic arm motion relative to the real-world baseline.
vs NMPC 降幅
周期臂指令位置 RMSE
OOD 位置RMSE
ALMA-Base 为 2.937
单步推理
约 17% 控制周期
LLM 提案成本
GPT-5.6 Sol
生成任务占比
αn 起始 0.05 封顶
注释 · 对比项出自仿真主基准,推理时延出自真机部署出自 §5.2、§5.5
注释 · 任务生成全程关闭,六变体共享同一循环 actor 结构出自 表2



EVIDENCE / METHODS
表格
周期臂指令下 PID 崩至 42.479 cm,ALMA 保持全场最低 2.497 cm
| 方法 | 静态 RMSE (cm) | 周期 RMSE (cm) | SR 静/周期 (%) |
|---|---|---|---|
| PID (PX4) | 4.514 | 42.479 | 100/100 |
| PID–INDI | 4.230 | 6.770 | 100/100 |
| PID+L1 | 3.893 | 24.654 | 100/100 |
| NMPC | 3.082 | 3.315 | 100/100 |
| Zhang et al. | 6.434 | 10.794 | 83.33/100 |
| ALMA | 2.326 | 2.497 | 100/100 |
注释 · 学习法先按 3 seed 平均再按臂指令条件平均;表中为均值出自 表1
原版排版与图表 · 手机无法内嵌时可在浏览器打开。PDF 插件内选文不能传给网页助手。