在机器人领域,让四足机器人具备灵活的操作技能一直是一个充满挑战的研究课题。近日,斯坦福大学和哥伦比亚大学的研究团队提出了一个名为"UMI on Legs"的创新框架,为解决这一难题提供了新的思路。这个框架巧妙地结合了真实世界的人类示范数据和仿真训练的全身控制器,为四足机器人提供了一种可扩展的操作技能学习方法。
UMI on Legs 的核心理念是将操作策略与全身控制分离,同时建立一个有效的接口来连接这两个部分。具体来说,该框架包含以下几个关键组成部分:
UMI手持夹持器: 这是一个带有GoPro相机的手持设备,用于收集真实世界中的人类操作示范数据。研究人员可以使用UMI在各种环境中收集丰富的操作数据,而无需实际的机器人。
视觉-运动策略: 基于UMI收集的数据训练得到的策略,能够从图像输入生成夹持器的运动轨迹。
操作中心的全身控制器: 在仿真环境中训练的控制器,能够控制四足机器人的全身运动,以精确跟踪给定的末端执行器轨迹。
接口: 使用末端执行器在任务坐标系中的轨迹作为视觉-运动策略和全身控制器之间的接口。
这种设计使得现有的视觉-运动策略可以轻松地移植到四足机器人上,实现操作策略的移动化。
UMI (Universal Manipulation Interface) 是该框架中的一个关键组件。它是一个带有GoPro相机的手持夹持器,允许研究人员在不使用实际机器人的情况下收集真实世界的操作示范数据。这种方法有几个显著优势:
研究团队使用IsaacGym仿真器来训练四足机器人的全身控制器。这个控制器具有以下特点:
操作中心设计: 控制器专注于跟踪世界坐标系中的末端执行器轨迹,而不是像之前的工作那样在机体坐标系中跟踪。这使得机器人能够更好地应对外部干扰,保持操作的稳定性。
轨迹预测: 控制器能够预测未来的末端执行器轨迹,从而实现更精确的运动控制。例如,在投掷任务中,机器人可以提前调整姿态以获得更好的投掷效果。
鲁棒性: 通过在训练中引入质量、重心和关节参数的随机化,控制器具有较强的鲁棒性,能够适应不同的环境和任务。

研究团队在多个任务上对UMI on Legs进行了测试,包括抓取、非抓取操作和动态操作任务。实验结果显示,该框架在所有任务中都达到了超过70%的成功率。特别值得一提的是,研究人员成功地将一个原本为固定基座机械臂设计的操作策略,零样本迁移到了四足机器人上。
一些令人印象深刻的演示包括:
这些任务展示了UMI on Legs框架的versatility和实用性。
为了将UMI on Legs付诸实践,研究团队设计了一个名为"Espresso"的四足机器人平台。这个平台具有以下特点:
这种硬件配置使得Espresso能够灵活地执行各种操作任务,同时保持移动能力。
UMI on Legs框架为四足机器人的操作能力开辟了新的可能性。一些潜在的应用领域包括:
然而,研究团队也指出了当前框架的一些局限性,如操作策略与全身控制器之间的单向通信可能导致某些不可达目标的问题。未来的工作可能会focus on改进这一接口,实现双向通信和多个末端执行器的协调控制。
UMI on Legs 为四足机器人的操作能力提供了一个创新的解决方案。通过结合真实世界的数据收集、仿真训练和巧妙的系统设计,这个框架为机器人研究社区提供了一个可扩展、灵活的平台。随着进一步的发展和完善,我们可以期待看到更多令人惊叹的四足机器人应用在不久的将来成为现实。
对于有兴趣深入了解或尝试复现这项工作的研究者和开发者,UMI on Legs 的源代码和详细文档已在GitHub上开源。这为推动四足机器人技术的进步和创新应用提供了宝贵的资源。



免费创建高清无水印Sora视频
Vora是一个免费创建高清无水印Sora视频的AI工具


最适合小白的AI自动化工作流平台
无需编码,轻松生成可复用、可变现的AI自动化工作流

大模型驱动的Excel数据处理工具
基于大模 型交互的表格处理系统,允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令,自动执行排序、公式计算和数据透视等操作,支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内,支持超过100万行数据的即时分析。


AI辅助编程,代码自动修复
Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。


AI论文写作指导平台
AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。


AI一键生成PPT,就用博思AIPPT!
博思AIPPT,新一代的AI生成PPT平台,支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等,内置海量精美PPT模板,涵盖商务、教育、科技等不同风格,同时针对每个页面提供多种版式,一键自适应切换,完美适配各种办公场景。


AI赋能电商视觉革命,一站式智能商拍平台
潮际好麦深耕服装行业,是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌,以及国内10万+淘宝、天猫、京东等主流平台的品牌商家,为卖家节省将近85%的出图成本,提升约3倍出图效率,让品牌能够快速上架。


企业专属的AI法律顾问
iTerms是法大大集团旗下法律子品牌,基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构,帮助企业扫清合规障碍,筑牢风控防线,成为您企业专属的AI法律顾问。


稳定高效的流量提升解决方案,助力品牌曝光
稳定高效的流量提升解决方案,助力品牌曝光


最新版Sora2模型免费使用,一键生成无水印视频
最新版Sora2模型免费使用,一键生成无水印视频
最新AI工具、AI资讯
独家AI资源、AI项目落地

微信扫一扫关注公众号