灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

3个月前 来源:华夏晚报 观看:34

近日,Figure 发布的端到端 VLA 具身大模型  Helix,采用分层架构同时实现高频控制和高泛化能力,引起了业内广泛关注。几乎同期,中国具身智能团队灵初智能发布了基于强化学习的增强版分层架构端到端 VLA  模型 Psi R0.5,这距离灵初智能团队去年底发布的 Psi R0 仅 2 个月UWg即热新闻——关注每天科技社会生活新变化gihot.com

  本次发布的新模型重大升级,对于复杂场景的泛化性灵巧性CoT长程任务能力上均有显著提升,同时完成泛化抓取训练所需的数据量仅需  Helix 数据量的 0.4%!在全球范围内实现了泛化灵巧操作与训练效率的双重领先。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  此外,灵初智能团队连发四篇高质量论文,将团队在高效实现泛化抓取堆叠场景的物品检索利用外部环境配合抓取VLA  安全对齐方面的最新成果悉数公开,展现了中国团队在具身智能领域的强悍战斗力。UWg即热新闻——关注每天科技社会生活新变化gihot.com

1.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

Psi R0.5 路径演进图UWg即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA仅需两小时灵巧手抓取数据UWg即热新闻——关注每天科技社会生活新变化gihot.com

轻松实现物品、灯光、场景泛化并实现真正  CoTUWg即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是首个用于灵巧手通用抓取的  VLA(Vision-Language-Action)框架,通过少量的训练,即刻在多变环境下智能涌现灵巧操作能力,能够像人类一样快速、准确地拾取各种物品。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是一个融合视觉,语言和动作的层次化框架:UWg即热新闻——关注每天科技社会生活新变化gihot.com

  · High-level  Planner:高层规划由预训练的大型视觉语言模型(VLM)实现,可理解多样化指令、自主决定抓取策略UWg即热新闻——关注每天科技社会生活新变化gihot.com

  · Low-level  Controller:低层扩散策略通过实时视觉反馈闭环掌握目标物体智能涌现出灵巧操作能力UWg即热新闻——关注每天科技社会生活新变化gihot.com

  整个框架的核心在于将多样化的图像输入数据通过现有的 Foundation Model 转换成 Domain-invariance  的表征,并端到端地训练下层控制模型。UWg即热新闻——关注每天科技社会生活新变化gihot.com

2.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA 框架图UWg即热新闻——关注每天科技社会生活新变化gihot.com

  从实验结果看,灵初智能仅使用了约 2 小时的灵巧手抓取数据(2094 条轨迹 × 3.5 秒 / 条 ÷ 60 秒  / 分钟 ÷ 60 分钟 / 小时 ≈ 2 小时),泛化到上千种不同物体,位置,堆叠,灯光,背景下成功抓取,而这个数据量仅仅是 Figure 的  0.4%数据利用效率提高 250 倍UWg即热新闻——关注每天科技社会生活新变化gihot.com

  同时,DexGraspVLA 相比现有方案还具有几项优势:UWg即热新闻——关注每天科技社会生活新变化gihot.com

  · 根据语言指令分辨出目标物体,处理堆叠场景下的目标物体的检索并抓取UWg即热新闻——关注每天科技社会生活新变化gihot.com

  · 抓取速度快(所有视频无加速,同类工作中节拍较快),闭环姿态矫正与重抓取能力(ReGrasp)UWg即热新闻——关注每天科技社会生活新变化gihot.com

  · 大脑具有 CoT 长程推理能力自主推理抓取顺序并将所有物体依次抓取UWg即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  展现出对光照变化背景干扰和物体姿态的强大鲁棒性和泛化性,让机器人的灵巧抓取达到人类级别。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  基于预训练的大模型:使用自然语言与人类交互,具有高智能的长程推理能力,能够自主理解人类话语并推理任务。因此可以一次设定多个抓取目标,通过 CoT  实现复杂流程下的自动分拣或清理。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  仍然会自动分析当前姿态偏差,通过细微调整腕关节和手部角度重新尝试抓取实现非常鲁棒且高效的抓取能力达到极强的泛化能力UWg即热新闻——关注每天科技社会生活新变化gihot.com

3.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval DexterityUWg即热新闻——关注每天科技社会生活新变化gihot.com

堆叠场景中的高效物体检索策略UWg即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习底层驱动,简单 reward 涌现复杂动作UWg即热新闻——关注每天科技社会生活新变化gihot.com

  在大多数实际场景中,物品往往以无规则、堆叠的方式摆放。传统方法要求机器人逐件搬开遮挡物,不仅耗时,还对机器人自身抓取能力提出了很高的要求。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  为了解决这一难题,灵初智能开发了一套基于强化学习的物体检索策略 ——Retrieval  Dexterity,解决了堆叠场景中物体检索识别效率低的问题。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  Retrieval Dexterity  系统中未用真机数据,灵初团队没有采用真机数据进行训练而是直接在仿真环境中通过强化学习进行训练。通过在仿真环境中大规模生成复杂的堆叠场景,训练模型直至涌现出合适的检索操作,随后再将这些操作零样本迁移至现实机器人和复杂环境中。UWg即热新闻——关注每天科技社会生活新变化gihot.com

4.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity 框架图UWg即热新闻——关注每天科技社会生活新变化gihot.com

  从杂乱堆叠物体中快速取出目标物体UWg即热新闻——关注每天科技社会生活新变化gihot.com

  在超过 10 种不同形状、大小的生活物品测试中,Retrieval Dexterity  展现出了优秀的性能,不仅能够高效完成训练过的物体的检索任务还能将检索能力泛化到未见过的新物体上UWg即热新闻——关注每天科技社会生活新变化gihot.com

  效率对比传统方法提升明显UWg即热新闻——关注每天科技社会生活新变化gihot.com

  与人为设定的动作相比,Retrieval Dexterity 在所有场景中平均减少了 38%  的操作步骤与模拟的 “将所有物体抓起来并放开” 相比,该方法更是平均减少了 90%  的步骤数量。这种效率提升主要得益于多指灵巧手能够直接与遮挡物进行交互,并随时移动它们,而不需要逐个移除。UWg即热新闻——关注每天科技社会生活新变化gihot.com

5.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

ExDex:借力外部环境UWg即热新闻——关注每天科技社会生活新变化gihot.com

抓取 “不可能” 物体UWg即热新闻——关注每天科技社会生活新变化gihot.com

  外部灵巧性解决物品超过机器人末端执行器的最大开度问题UWg即热新闻——关注每天科技社会生活新变化gihot.com

  当物体的底面尺寸超过机器人末端执行器的最大开度时,传统方法往往无法直接对物体进行抓取,这种情况在商场等商业场景尤为常见。为了解决这一难题,灵初智能推出了  ExDex—— 一种基于外部灵巧性(extrinsic dexterity)抓取的创新解决方案UWg即热新闻——关注每天科技社会生活新变化gihot.com

  ExDex 能够利用环境特征进行非夹持式操作,凭借多指灵巧手的灵活性和操作能力,实现更丰富的环境交互。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习带来超越人类遥操作水平的灵巧操作UWg即热新闻——关注每天科技社会生活新变化gihot.com

  通过强化学习,ExDex  涌现出自主制定策略的能力,借助周围环境抓取那些无法直接抓取的物体。例如,机器人可以将物体先推到桌面边缘或墙体边缘,再利用这些环境特征完成抓取任务。这种操作通过传统的遥操作方式几乎无法实现,充分体现了强化学习的强大优势。UWg即热新闻——关注每天科技社会生活新变化gihot.com

  在对数十种不同家居物品的大量实验中,ExDex  验证了其优越的性能和对新物体的泛化能力并成功将仿真训练的策略无缝迁移到真实机器人中,实现了从仿真到现实的高效过渡。UWg即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA:人机安全交互的 “守护神”UWg即热新闻——关注每天科技社会生活新变化gihot.com

  当下,具身智能机器人频繁出圈,从春晚跳舞的 Unitree  人形机器人,到波兰街头遛机器狗的新奇场景,让人看到人机交互的无限可能,但安全问题也不容忽视。视觉 - 语言 -  行动模型(VLAs)在革新机器人技术时,也藏着安全隐患。UWg即热新闻——关注每天科技社会生活新变化gihot.com

6.pngUWg即热新闻——关注每天科技社会生活新变化gihot.com

 左图呈现了传统 VLA 模型在抓取任务中的三种典型不安全行为:1)对无关物体的严重损坏,2)目标识别错误导致危险物体的误用,以及  3)执行指令时与危险物体发生交互。右图通过导航路径示例,进一步展示了传统 VLA 在导航过程中的三种不安全行为UWg即热新闻——关注每天科技社会生活新变化gihot.com

  本周,北京大学 PAIR - Lab 团队携手灵初智能重磅推出了具身安全模型  SafeVLA,通过安全对齐,让机器人在复杂场景安全高效执行任务,在对抗干扰场景中鲁棒性极高UWg即热新闻——关注每天科技社会生活新变化gihot.com

  SafeVLA 把 “以人为本” 刻进  DNA,不像传统机器人只盯着任务完成它把人类安全放在首位。技术上,引入约束马尔可夫决策过程(CMDP)范式,把现实安全约束融入仿真环境大规模采样。SafeVLA  在安全性和任务执行方面均取得突破性进展分别提升 83.58% 和  3.85%充分证明了其在平衡安全与效率方面的卓越能力UWg即热新闻——关注每天科技社会生活新变化gihot.com

11.gifUWg即热新闻——关注每天科技社会生活新变化gihot.com

传统 VLA 模型完成任务过程中的高危行为UWg即热新闻——关注每天科技社会生活新变化gihot.com

  团队开发全新仿真环境 Safety -  CHORES集成安全约束功能支持用户自定义规则代码还完全开源直接给全球研究者和开发者送福利。而且,SafeVLA  在 12 个分布外(OOD)实验里,面对光照、材质变化和复杂环境扰动,始终稳定发挥,实力碾压其他模型。UWg即热新闻——关注每天科技社会生活新变化gihot.com

22.gifUWg即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA 在正常测试集和 OOD 测试集上的比较,其在 OOD 环境下依然保持良好安全性和表现UWg即热新闻——关注每天科技社会生活新变化gihot.com


UWg即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7388-0.html灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:企业智能化升级关键:DeepSeek大模型技术与应用论坛来了!

下一篇:赛力斯申请注册问界智享商标

为你推荐
今日(1月27日),AI驱动的太空RPG《遥远行星建造师》Steam页面,游戏支持简繁体中文,年内发售,感兴趣的玩家可以点击此处进入商店页面。 游戏截图: 《遥远行星建造师...
01-29
Take-Two Interactive 首席执行官 Strauss Zelnick 最近分享了一些对于 AI 人工智能的看法,称“人工智能”这个概念实际上就是一个“矛盾修辞”。 在接受 GI.b...
02-10
极目新闻通讯员 凌丽万“巳”大“集”闹新春,非遗技艺过大年。2月3日,正月初六,又恰逢二十四节气之首“立春”,为庆祝首个“非遗版”春节,弘扬中华优秀传统文化,寄托岁首美好期盼,...
02-04
极目新闻记者 庞正 袁超一摄影记者 李辉海报制作 商羽琳什么是支点、建成什么样的支点、怎样建支点?2月5日,乙巳蛇年首个工作日,湖北“新春第一会”——全省加快建成中部地区崛...
02-06
  科技日报讯(记者 崔爽)记者8月30日从国家区块链技术创新中心获悉,我国首个区块链专用计算硬件...
01-21
下一站,回家!无论是绿皮车的温暖情怀,还是高铁的高效快捷,回家的路,永远是最美的风景 下一站,回家!无论是绿皮车的温暖情怀,还...
01-21
  从西安市区出发,驱车一个多小时便可来到位于秦岭脚下的鄠邑区栗峪口村。在社交平台上,栗峪口...
02-05
  中国自然资源部北海区海洋预报台6日发布的监测数据显示,受近期中国东北地区大风和降温影响,未来3天,预...
02-07
春节临近,年味渐浓。每到除夕前几天,置办年货成了消费者日常生活中的“头等大事”。年货种类繁多,尤其是食品类年货更是多种多样,其中又以四川特产年货最受全国消费者欢迎。从麻...
01-22
  美FTC警告:微软与OpenAI的合作引发反垄断担忧  财联社1月18日讯(编辑 夏军雄)美东时间周五(1月17日),美国联邦贸易委员会(FTC)发布报告称,微软与OpenAI的合作引发了担忧,...
01-21
[本站 国内谍照] 1月18日,我们从相关渠道获取到了一组疑似吉利银河旗下全新轿车的路试谍照。从多处细节来看,该车或将归属星舰系列的全新插混车型,从而与星舰7 EM-i等车...
01-21
1 月 22 日消息,据特斯拉官方微博,特斯拉现已在其Tesla App官方商城中上架椒盐瓶套组 / 蛇年双肩背包 / 高尔夫伞等配件,整理具体商品如下:特斯拉椒盐瓶套组定价:239元官...
01-23
  昨天,哔哩哔哩(B站)宣布与中央广播电视总台《2025年春节联欢晚会》达成重要合作。除夕夜,哔哩哔...
01-22
《难哄》桑稚段嘉许小说叫什么?桑稚和段嘉许避孕套环节第几章?桑稚和段嘉许是小说《偷偷藏不住》中的角色。《偷偷藏不住》与《难哄》是姐妹篇,《难哄》讲述的...
02-19
美国时间1月13日至16日,一年一度的摩根大通医疗健康会议(J.P. Morgan Healthcare Conference,简称JPM大会)在加利福尼亚州旧金山成功举办。JPM...
01-21
  本报北京1月5日电(中青报・中青网记者 刘昶荣)“目前是儿童呼吸道感染的高发期,病原(体)还是以病毒和肺炎支原体为主,病毒主要以流感病毒为主。”在国家卫生健康委今天...
01-21
2025年刚过去半个多月,北京大学周欢萍教授已经连续两度在国际顶级学术刊物《...
01-21
  上证报中国证券网讯(记者 聂林浩)得益于年末冲规模等季节性因素影响,资产管理信托发行市场再度...
01-22
  摘要  【黄金价格再攀新高足金首饰价格冲破830元/克】COMEX黄金价格报2762美元/盎司,创近...
01-24
射手座的男生通常都是开朗、乐观、热情洋溢的,他们喜欢自由自在地生活,不喜欢被束缚。但...
01-22
每个星座都有自己独特的喜好和偏好,而摩羯座也不例外。作为一个土象星座,摩羯座的人通常...
01-22
男商务衬衫搭配什么裤子好看?一、男商务衬衫搭配什么裤子好看?搭配一:牛仔裤牛仔裤应该是男士日常穿搭中的必备裤装,时尚、个性又百搭,搭配一件格子衬衫或者任何休闲风格的衬衫都...
02-07
穿搭化妆风格? 菲律宾穿搭风格?一、穿搭化妆风格?每个人的气质不同,在穿搭上有很多种风格,所以,妆容方面也是有很多风格的。那么,接下来我们一起来看看妆容有哪些风格吧!感兴趣的朋...
02-07
2月6日消息,天眼查官网资料显示,近日,辛选集团关联公司广州辛选网络信息科技有限公司因虚假宣传违法行为,被广州市白云区市场监督管理局罚款175万元。图源:天眼查官网处罚事由显...
02-07
1月25日消息,香港位元堂药业有限公司CEO陈杰文(Raymond Chan)近日率队访问怡亚通总部,双方围绕未来业务合作展开深入交流。最终,双方正式达成战略合作关系,致力于共同打造香港中成...
02-07
2月5日消息,中国人民银行最新数据显示,1月28日至2月3日的春节前7天,银联、网联两大支付清算平台共处理支付交易220.78亿笔,金额达8.52万亿元,较去年同期分别增长25.70%和17.08%。...
02-07
2月18日消息,据环球旅讯,携程集团近日宣布多名高层调整。截图图源:环球旅讯公众号任命公告具体为,陈刚出任集团首席产品官,将牵头集团AI相关产品的战略制订;谭煜东出任集团首席科...
02-19
近日,国内绿色可持续燃料企业上海岚泽能源科技有限公司(简称:“岚泽能源”)宣布完成数亿元的A轮融资。本轮融资由国家绿色发展基金和上海联和投资共同...
02-07
据公安部最新数据揭示,至2024年末,我国新能源汽车保有量已激增至3140万辆,占汽车总体比例的8.90%。2024年度,新注册登记的新能源汽车数量高达1125万辆,占比新注册汽车总量的41.83...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮