MEKAWIRE
专业arXiv

MiNI-Q单一策略统一270克连续旋转四足机器人直立倒立行走与落地恢复

Arturo Flores Alvarez, Nathan Lintu, Dennis Hong
30 秒速读

这篇预印本论文展示在270克四足机器人MiNI-Q上运行单一强化学习策略,策略完全在机载微控制器上推理,统一了直立行走、倒立行走和落地恢复,没有状态机或相位切换。硬件实验中,同一策略在0.15 m/s指令下直立前向速度RMSE为0.037 m/s,倒立为0.050 m/s,30次释放恢复试验成功24次,并在四种脚型和四种室内表面上完成行走。结果说明连续旋转关节和重力条件参考能让小型机器人用紧凑网络覆盖多种姿态,但尚未经过同行评审。

研究问题

能否训练一个完全在机载微控制器上执行的单一强化学习策略,利用连续旋转腿的对称性,统一亚千克级四足机器人的直立行走、倒立行走和落地恢复?

问题

亚千克级四足机器人上的闭环学习控制仍少见,倒立运动通常依赖预计算轨迹或独立恢复控制器。MiNI-Q的八个连续旋转关节使关节空间成为环面T^8,标准关节角度观测在±π处不连续,且倒立支撑配置和落地恢复难以用一个策略覆盖。轻量腿部、皮带传动和双微控制器架构也增加了仿真到真实迁移的难度。

既有方法

此前的亚千克级平台如MiNI-Q和Q8bot主要作为硬件介绍或开环控制,倒立运动使用预计算轨迹。其他小型四足学习工作如Petoi Bittle部署在树莓派上或仅在仿真中研究。行为家族方法如Walk These Ways和ANYmal恢复面向有界关节四足机器人,采用独立恢复控制器或相位切换,未利用连续旋转关节的环面表示和重力对称。

新方法

新方法将关节空间显式建模为T^8,用正弦余弦嵌入消除角度不连续,并通过重力条件参考变换I(a,b)=(π-a,-b)在投影重力符号变化时切换直立与倒立参考。策略是[128,128] ELU MLP,输出加入参考的八个关节位置偏移。训练在4096个Isaac Gym环境中使用PPO,联合课程从直立扰动、侧向落地到SO(3)方向释放,姿态采样从锚点抖动到任意锚点对插值。脚型域随机化和辨识的舵机模型支持硬件迁移,策略以50 Hz在ESP32-S3和ESP32-C3双微控制器上完全机载执行。

结果

硬件实验使用同一策略在同一台MiNI-Q上完成。前向速度跟踪在0.15 m/s指令下,直立RMSE为0.037±0.004 m/s,倒立为0.050±0.003 m/s,各5次试验。25秒连续姿态变化试验重复5次,平均RMSE约0.04 m/s。释放恢复共30次试验,24次成功(80%),其中倒立滚转6/6,抛掷5/6,直立俯仰和倒立俯仰各4/6,直立滚转5/6,成功定义为首次接触后5秒内稳定行走,释放高度20至30 cm。脚型转移在MDF、聚碳酸酯、人造草皮和橡胶四种表面上测试,Rounded脚在训练集中,Hex、Square和Spike为未见的物理形状,每种组合N=3,所有16种组合均能行走,Rounded误差0.041至0.065 m/s,其余12个未见过形状的RMSE范围为0.055至0.136 m/s,中位数0.087 m/s。仿真消融中,统一基线的前向速度跟踪分数直立0.98、倒立1.00、偏航0.79、恢复时间6.9 s;移除重力条件参考使倒立跟踪降至0.02,用原始角度替代环面编码降至0.21。机载推理[128,128]策略耗时594.33微秒,RAM 150.3 kB,Flash 846.7 kB。辨识舵机模型将关节轨迹RMSE从约0.49 rad降至髋0.029 rad和膝0.025 rad,17至20倍降低。

局限

作者承认硬件评估仅覆盖一台机器人、四种室内表面、选定姿态和20至30 cm释放高度;跨单元差异、户外地形和较大初始角速度未表征。跟踪误差相对0.15 m/s指令仍较大。释放失败包括驱动器过流关断、电池触点脱落和皮带跳齿。锚点覆盖受训练稳定性限制。仿真消融每种变体仅训练一次,未量化种子变异性。论文未报告代码是否开源。

产业影响

这类连续旋转微型四足机器人可服务于教育科研平台、桌面级机器人套件、狭窄空间巡检和微型集群研究。机载双微控制器推理仅占3%控制周期,意味着低成本硬件即可部署统一运动策略。若解决过流、皮带和电池接触可靠性,并完成跨单元与户外验证,1至3年内可能进入教育机器人和消费级玩具产品;更复杂的任务驱动姿态选择和协作行为需要3年以上。科研平台现在即可使用该思路,但需要预设姿态命令。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。