在机器人领域,让四足机器人具备灵活的操作技能一直是一个充满挑战的研究课题。近日,斯坦福大学和哥伦比亚大学的研究团队提出了一个名为"UMI on Legs"的创新框架,为解决这一难题提供了新的思路。这个框架巧妙地结合了真实世界的人类示范数据和仿真训练的全身控制器,为四足机器人提供了一种可扩展的操作技能学习方法。
UMI on Legs 的核心理念是将操作策略与全身控制分离,同时建立一个有效的接口来连接这两个部分。具体来说,该框架包含以下几个关键组成部分:
UMI手持夹持器: 这是一个带有GoPro相机的手持设备,用于收集真实世界中的人类操作示范数据。研究人员可以使用UMI在各种环境中收集丰富的操作数据,而无需实际的机器人。
视觉-运动策略: 基于UMI收集的数据训练得到的策略,能够从图像输入生成夹持器的运动轨迹。
操作中心的全身控制器: 在仿真环境中训练的控制器,能够控制四足机器人的全身运动,以精确跟踪给定的末端执行器轨迹。
接口: 使用末端执行器在任务坐标系中的轨迹作为视觉-运动策略和全身控制器之间的接口。
这种设计使得现有的视觉-运动策略可以轻松地移植到四足机器人上,实现操作策略的移动化。
UMI (Universal Manipulation Interface) 是该框架中的一个关键组件。它是一个带有GoPro相机的手持夹持器,允许研究人员在不使用实际机器人的情况下收集真实世界的操作示范数据。这种方法有几个显著优势:
研究团队使用IsaacGym仿真器来训练四足机器人的全身控制器。这个控制器具有以下特点:
操作中心设计: 控制器专注于跟踪世界坐标系中的末端执行器轨迹,而不是像之前的工作那样在机体坐标系中跟踪。这使得机器人能够更好地应对外部干扰,保持操作的稳定性。
轨迹预测: 控制器能够预测未来的末端执行器轨迹,从而实现更精确的运动控制。例如,在投掷任务中,机器人可以提前调整姿态以获得更好的投掷效果。
鲁棒性: 通过在训练中引入质量、重心和关节参数的随机化,控制器具有较强的鲁棒性,能够适应不同的环境和任务。

研究团队在多个任务上对UMI on Legs进行了测试,包括抓取、非抓取操作和动态操作任务。实验结果显示,该框架在所有任务中都达到了超过70%的成功率。特别值得一提的是,研究人员成功地将一个原本为固定基座机械臂设计的操作策略,零样本迁移到了四足机器人上。
一些令人印象深刻的演示包括:
这些任务展示了UMI on Legs框架的versatility和实用性。
为了将UMI on Legs付诸实践,研究团队设计了一个名为"Espresso"的四足机器人平台。这个平台具有以下特点:
这种硬件配置使得Espresso能够灵活地执行各种操作任务,同时保持移动能力。
UMI on Legs框架为四足机器人的操作能力开辟了新的可能性。一些潜在的应用领域包括:
然而,研究团队也指出了当前框架的一些局限性,如操作策略与全身控制器之间的单向通信可能导致某些不可达目标的问题。未来的工作可能会focus on改进这一接口,实现双向通信和多个末端执行器的协调控制。
UMI on Legs 为四足机器人的操作能力提供了一个创新的解决方案。通过结合真实世界的数据收集、仿真训练和巧妙的系统设计,这个框架为机器人研究社区提供了一个可扩展、灵活的平台。随着进一步的发展和完善,我们可以期待看到更多令人惊叹的四足机器人应用在不久的将来成为现实。
对于有兴趣深入了解或尝试复现这项工作的研究者和开发者,UMI on Legs 的源代码和详细文档已在GitHub上开源。这为推动四足机器人技术的进步和创新应用提供了宝贵的资源。



GPT充值
支持 ChatGPT Plus / Pro 充值服务,支付便捷,自动发货,售后可查。


AI 图片生成平台
GPT Image 2 是面向用户的 AI 图片生成平台,支持文生图、图生图及多模型创意工作流。


你的AI Agent 团队
Vecbase 是专为 AI 团队打造的智能工作空间,将数据管理、模型协作与知识沉淀整合于一处。算法、产品与业务在同一平台无缝协同,让从数据到 AI 应用的落地更快一步。


全球首个AI音乐社区
音述AI是全球首个AI音乐社区,致力让每个人都能用音乐表达自我。音述AI提供零门槛AI创作工具,独创GETI法则帮助用户精准定义音乐风格,AI润色功能支持自动优化作品质感。音述AI支持交流讨论、二次创作与价值变现。针对中文用户的语言习惯与文化背景进行专门优化,支持国风融合、C-pop等本土音乐标签,让技术更好地承载人文表达。


阿里Qoder团队推出的桌面端AI智能体
QoderWork 是阿里推出的本地优先桌面 AI 智能体,适配 macOS14+/Windows10+,以自然语言交互实现文件管理、数据分析、AI 视觉生成、浏览器自动化等办公任务,自主拆解执行复杂工作流,数据本地运行零上传,技能市场可无限扩展,是高效的 Agentic 生产力办公助手。


一站式搞定所有学习需求
不再被海量信息淹没,开始真正理解知识。Lynote 可摘要 YouTube 视频、PDF、文章等内容。即时创建笔记,检测 AI 内容并下载资料,将您的学习效率提升 10 倍。


为AI短剧协作而生
专为AI短剧协作 而生的AniShort正式发布,深度重构AI短剧全流程生产模式,整合创意策划、制作执行、实时协作、在线审片、资产复用等全链路功能,独创无限画布、双轨并行工业化工作流与Ani智能体助手,集成多款主流AI大模型,破解素材零散、版本混乱、沟通低效等行业痛点,助力3人团队效率提升800%,打造标准化、可追溯的AI短剧量产体系,是AI短剧团队协同创作、提升制作效率的核心工具。


能听懂你表达的视频模型
Seedance two是基于seedance2.0的中国大模型,支持图像、视频、音频、文本四种模态输入,表达方式更丰富,生成也更可控。


国内直接访问,限时3折
输入简单文字,生成想要的图片,纳米香蕉中文站基于 Google 模型的 AI 图片生成网站,支持文字生图、图生图。官网价格限时3折活动


职场AI,就用扣子
AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!
最新AI工具、AI资讯
独家AI资源、AI项目落地

微信扫一扫关注公众号