世界模型WHALE来了!
人类能够在脑海中设想一个想象中的世界,以预测不同的动作可能导致不同的结果。受人类智能这方面的启发,世界模型被设计用于抽象化现实世界的动态,并提供这种“如果……会怎样”的预测。
因此,具身智能体可以与世界模型进行交互,而不是直接与现实世界环境交互,以生成模拟数据,这些数据可以用于各种下游任务,包括反事实预测、离线策略评估、离线强化学习。
世界模型在具身环境的决策中起着至关重要的作用,使得在现实世界中成本高昂的探索成为可能。为了促进有效的决策,世界模型必须具备强大的泛化能力,以支持分布外(OOD)区域的想象,并提供可靠的不确定性估计来评估模拟体验的可信度,这两者都对之前的可扩展方法提出了重大挑战。
近日,来自南京大学、南栖仙策等机构的研究者在论文中引入了WHALE(World models with beHavior-conditioning and retrAcing-rollout LEarning),这是一个用于学习可泛化世界模型的框架,由两种可以与任何神经网络架构普遍结合的关键技术组成。
在确定策略分布差异是泛化误差的主要来源的基础上,研究者引入了一种行为—条件(behavior-conditioning)技术来增强世界模型的泛化能力,该技术建立在策略条件模型学习的概念之上,旨在使模型能够主动适应不同的行为,以减小分布偏移引起的外推误差。此外,研究者还提出了一种简单而有效的技术,称为retracing-rollout,以便对模型想象进行有效的不确定性估计,作为一种即插即用的解决方案,可以有效地应用于各种实施任务中的末端执行器姿态控制,而无需对训练过程进行任何更改。
通过整合WHALE的这两种技术,研究者提出了WHALE-ST,这是一种可扩展的基于时空transformer的世界模型,旨在实现更有效的决策。研究者进一步提出了WHALE-X,这是一个在970K机器人演示上预训练的414M参数世界模型。最后,研究者进行了大量的实验,以证明WHALE-ST和WHALE-X在模拟和现实世界任务中的卓越可扩展性与泛化性,突出了它们在增强决策方面的效果。
为了评估WHALE-X在实际物理环境中的泛化能力,研究团队在ARX5机器人上进行了全面实验。与预训练数据不同,评估任务调整了摄像机角度和背景等,增加了对世界模型的挑战。他们收集了每个任务60条轨迹的数据集用于微调,任务包括开箱、推盘、投球和移动瓶子,还设计了多个模型从未接触过的任务来测试模型的视觉、运动和任务泛化能力。
结果显示,WHALE-X在真实世界中展现出明显的优势:与没有行为—条件的模型相比,WHALEX的一致性提高了63%,表明该机制显著提升了OOD泛化能力;在97万个样本上进行预训练的WHALE-X,比从零开始训练的模型具有更高的一致性,凸显了大规模互联网数据预训练的优势;增加模型参数能够提升世界模型的泛化能力,WHALE-X-base(203M)动态模型在三个未见任务中的一致性比率是77M版本的3倍。此外,视频生成质量与一致性的结果一致。通过行为—条件策略、大规模预训练数据集和扩展模型参数,三种策略结合,显著提高了模型的OOD泛化能力,尤其是在生成高质量视频方面。
标签:
相关推荐:
精彩放送:
- []构筑新优势 浙江安吉小镇组团奔向“大未来”
- []浙江义乌第六代市场面向全球招商 外商可入驻开店
- []浙江义乌第六代市场面向全球招商 外商可入驻开店
- []构筑新优势 浙江安吉小镇组团奔向“大未来”
- []宁夏全域土地综合整治“点土成金”激活乡村振兴新动能
- []构筑新优势 浙江安吉小镇组团奔向“大未来”
- []青海湖之南推冰雪旅游大餐 冀“冰雪资源”成“火热经济”
- []青海湖之南推冰雪旅游大餐 冀“冰雪资源”成“火热经济”
- []报告:生成式人工智能带来智慧旅游发展新机遇
- []浙江义乌市场6.0时代:海量新技术成为商人“三头六臂”
- []国际金融论坛香港举行年会 探讨中国企业“出海”新航路
- []加快推进制造业数字化绿色化协同转型发展
- []国际游客“赶早”,中国冰雪经济升温
- []浙江义乌市场6.0时代:海量新技术成为商人“三头六臂”
- []浙江义乌市场6.0时代:海量新技术成为商人“三头六臂”
- []国际游客“赶早”,中国冰雪经济升温
- []加快推进制造业数字化绿色化协同转型发展
- []企业反映经营还有困难?多部门表态:持续推动解决!
- []中欧班列(郑州)开行突破10000列 通达欧洲40国
- []广州地铁正建设19条线路 总里程年底将突破700公里
- []中欧班列(郑州)开行突破10000列 通达欧洲40国
- []企业反映经营还有困难?多部门表态:持续推动解决!
- []广州地铁正建设19条线路 总里程年底将突破700公里
- []沪指周五跌逾3% 互联网电商板块逆势上涨
- []中欧班列(郑州)开行突破10000列 通达欧洲40国
- []我国充电基础设施建设驶上“快车道” 汽车充换电产业生态将多方面拓展完善
- []国家外汇局:10月中国外汇市场总计成交24.26万亿元人民币
- []搜狗输入法全面升级,让输入框变身搜索框
- []三方面9条政策助力外贸企业稳订单拓市场 为经济持续回升提供“硬支撑”
- []三方面9条政策助力外贸企业稳订单拓市场 为经济持续回升提供“硬支撑”
- []搜狗输入法全面升级,让输入框变身搜索框
- []透过乌镇看未来:数字警务“智慧护航”互联网大会
- []我国充电基础设施建设驶上“快车道” 汽车充换电产业生态将多方面拓展完善
- []三方面9条政策助力外贸企业稳订单拓市场 为经济持续回升提供“硬支撑”
- []透过乌镇看未来:数字警务“智慧护航”互联网大会
- []中外嘉宾天津共论职业技术教育合作机遇
- []中国贸促会:全球经贸摩擦呈加剧态势
- []中国贸促会:全球经贸摩擦呈加剧态势
- []文旅部:促进旅行社研学旅游业务健康发展
- []“绿美湾区‘碳’索未来” 广东边会在COP29中国角举办
- []2024年“阅读北京”辐射超千万人次
- []导演邵艺辉携钟楚曦“回家”路演 解读《好东西》中的“晋味道”
- []“中国—东盟童书合作计划”累计推出71种图书
- []导演邵艺辉携钟楚曦“回家”路演 解读《好东西》中的“晋味道”
- []导演邵艺辉携钟楚曦“回家”路演 解读《好东西》中的“晋味道”
- []良渚遗址群家底已摸清!“考古中国”最新进展发布
- []为啥说小雪节气不一定下雪?
- []导演邵艺辉携钟楚曦“回家”路演 解读《好东西》中的“晋味道”
- []解谜三星堆:他们去哪儿了
- []“国乐行者”方锦龙:一个“不靠谱”的演奏家
- []热血史诗再现 电视剧《上甘岭》创作座谈会举行
- []热血史诗再现 电视剧《上甘岭》创作座谈会举行
- []安徽全面启动全域“无废城市”建设
- []热血史诗再现 电视剧《上甘岭》创作座谈会举行
- []纪录片《叶尔羌河》创作研讨会在京举办
- []纪录片《叶尔羌河》创作研讨会在京举办
- []上海科研团队研究成果再登《自然》 提出限制性饮食联合抑制剂治疗肿瘤新策略
- []中新健康|高速扩张暗藏隐忧 塔斯汀屡陷食品安全丑闻
- []上海科研团队研究成果再登《自然》 提出限制性饮食联合抑制剂治疗肿瘤新策略
- []中新健康|六部门:完善基层药品联动管理 扩大基层药品种类
- []冬季怕冷人群如何养生保健?哪些人适合服用膏方?
- []冬季怕冷人群如何养生保健?哪些人适合服用膏方?
- []黑龙江中俄友好医院揭牌:多领域合作为两国人民健康福祉贡献力量
- []冬季怕冷人群如何养生保健?哪些人适合服用膏方?
- []中国自主培养的首批博士苏淳教授分享“求学之路”
- []中国自主培养的首批博士苏淳教授分享“求学之路”
- []北京5所民办非学历高等教育机构年检不通过
- []北京5所民办非学历高等教育机构年检不通过
- []“课间一刻钟”何以更好支持学生健康成长?
- []中国自主培养的首批博士苏淳教授分享“求学之路”
- []福建师范大学成立全球南方教育研究中心
- []中国教育部:2025年全国硕士研究生报名人数为388万
- []登广告吁救台湾教育 区桂芝指现行课纲绑架所有师生
- []福建师范大学成立全球南方教育研究中心
- []中国教育部:2025年全国硕士研究生报名人数为388万
- []深化校企合作 共育技能人才——驻马店技师学院与富士康集团“富翔订单班”开班仪式顺利举行
- []中疾控:有疫苗可预防的呼吸道疾病要尽早开展疫苗接种
- []“乒”出健康 邓州市冬季乒乓球运动会开幕
- []马来西亚华人歌手尤长靖:用音乐架起中马文化互联桥梁
- []汽车打火哒哒哒的启动不了怎么办?汽车打火没反应怎么回事?
- []冬季如何防护才能保持血压的稳定?医生解答
- []理直气壮是什么意思?理直气壮褒义还是贬义?
- []上海科研团队研究成果再登《自然》 提出限制性饮食联合抑制剂治疗肿瘤新策略
- []中新健康|六部门:完善基层药品联动管理 扩大基层药品种类
- []中新健康|六部门:完善基层药品联动管理 扩大基层药品种类
- []小雪节气后如何避免阳气损害?中医专家建议首先要潜藏
- []中新健康|高速扩张暗藏隐忧 塔斯汀屡陷食品安全丑闻
- []黑龙江中俄友好医院揭牌:多领域合作为两国人民健康福祉贡献力量
- []内乡县赵店乡:乡村振兴产业项目顺利竣工
- []第七届“一带一路·七彩云南”SS1集结赛在西双版纳举行
- []2024中缅瑞丽-木姐跨国马拉松报名启动
- []新奥运周期首秀,中国男篮48分大胜关岛队
- []行而不辍怎么读什么意思?履践致远怎么读?
- []奥运冠军杜丽,有新职!
- []奥运冠军杜丽,有新职!
- []再创多项历史,大谷翔平三度当选美职棒MVP
- []第七届“一带一路·七彩云南”SS1集结赛在西双版纳举行
- []第七届“一带一路·七彩云南”SS1集结赛在西双版纳举行
- []再创多项历史,大谷翔平三度当选美职棒MVP
- []唐河县郭滩镇:持续推进移风易俗 让文明新风浸润群众心田
- 失业补助金全国线上申领入口在哪?失业保险的办理时间有什么限制?
- 动植物检疫失职罪处罚标准如何规定的?对应当检疫的检疫物不检疫指的是哪些情况?
- B站注册资本增幅400%至5亿 目前由陈睿全资持股
- 光源资本出任独家财务顾问 沐曦集成电路10亿元A轮融资宣告完成
- 巨轮智能2021年上半年营收11.24亿元 期内研发费用投入增长19.05%
- 红枣期货尾盘拉升大涨近6% 目前红枣市场总库存约30万吨
- 嘉银金科发布2021年Q2财报 期内净利润达1.27亿元同比增长208%
- 成都银行2021上半年净利33.89亿元 期内实现营收同比增长17.27亿元
- 汽车之家发布2021年第二季度业绩 期内新能源汽车品牌收入增长238%
- 中信银行上半年实现净利润290.31亿元 期末不良贷款余额706.82亿元
- 第七届“一带一路·七彩云南”SS1集结赛在西双版纳举行
- 河南交通技师学院土木工程系党支部与市营商环境和信用建设服务中心党支部开展支部共建主题党日活动
- 新野县市场监督管理局:监(管)检(测)结合 共筑食安
- 奥运冠军杜丽担任国家手枪射击队领队
- 西平县焦庄中心校成功举办首届冬季跳绳比赛
- 云南民族体育项目发展蓬勃 展文化促“三交”
- 云南民族体育项目发展蓬勃 展文化促“三交”
- 驻马店开发区金河办事处东高社区开展“法治护校园 安全伴成长”普法宣传活动
- 奥运冠军杜丽担任国家手枪射击队领队
- 邓州市市场监督管理局:关爱特殊群体 政务服务暖人心
- 云南民族体育项目发展蓬勃 展文化促“三交”
- 方城县法院司法警察大队开展警务技能训练
- 内乡县灌涨镇:关注校园食品安全,共同守护孩子健康
- 日照探索道路交通纠纷多元解法 推进“一站式”办理化解
- 福建摸清自然资源“家底” 筑牢生态保护产权根基
- 江西靖安:凝聚统战合力 激活文旅产业发展“一池春水”
- 问世间情为何物出自于哪个诗人?乐不思蜀说的是哪位人物?
- 国家菌草工程技术研究中心产学研合作(永德)基地授牌
- 西安初次登记结婚可领1500元补贴?官方回应
- 今年下半年首场寒潮和大范围雨雪即将上线
- 宜尚酒店荣获2024第八届龙雀奖“投资价值酒店品牌”殊荣
- 今年下半年首场寒潮和大范围雨雪即将上线
- 土地市场出现部分回暖迹象 专家预测未来趋势→
- 交通事故自行和解 保险公司可拒赔吗?
- 不用花钱还能领红包?免费短剧背后暗藏玄机
- 土地市场出现部分回暖迹象 专家预测未来趋势→
- 男子分饰四角上演“苦情大戏”,80岁老奶奶被骗8年
- 下半年首场寒潮来袭 中国中东部将现大范围降温
- 11月22日央行开展6351亿元7天期逆回购操作
- 不用花钱还能领红包?免费短剧背后暗藏玄机
- 巴库气候大会进入闭幕倒计时 气候资金仍未达成共识
- 男子分饰四角上演“苦情大戏”,80岁老奶奶被骗8年
- 四川广元一桥面栏杆破损有儿童坠落 官方通报
- 国家消防救援局:今年10月以来共接报处置警情24万起
- 中国代表:施压示强不是外交 对抗解决不了伊核问题
- 央行:人民币汇率将在合理均衡水平上保持基本稳定
- 国家消防救援局:今年10月以来共接报处置警情24万起
- 中国代表:施压示强不是外交 对抗解决不了伊核问题
- 国家一级保护动物大鸨连续十九年来白洋淀越冬
- 一揽子增量政策集中发力 我国外贸实现平稳增长
- 一揽子增量政策集中发力 我国外贸实现平稳增长
- 石家庄:因地制宜 推动土特产成为特色产业
- “澜湄印象”西藏行:同饮一江水 万里尚为邻
- 报告:AI企业数量与国家的经济发展水平呈显著正相关
- 江西修水“红美人”柑橘抢鲜上市 “甜蜜”产业助力乡村振兴
- 江西修水“红美人”柑橘抢鲜上市 “甜蜜”产业助力乡村振兴
- 跨境电商为平潭经济发展注入新动能
- 晶采观察丨1500亿件!快递量新纪录的背后
- 报告:AI企业数量与国家的经济发展水平呈显著正相关
- 报告:AI企业数量与国家的经济发展水平呈显著正相关
- 跨境电商为平潭经济发展注入新动能
- 国家能源局:截至10月底,全国累计发电装机容量约31.9亿千瓦
- 满载11800吨机制砂 福建漳州“东山55”轮首航抵达台北港
- 满载11800吨机制砂 福建漳州“东山55”轮首航抵达台北港
- 一揽子增量政策集中发力 我国外贸实现平稳增长
- 展望乌镇峰会新十年:推动智能向善 让数字未来更美好
- 前10月广州完成客运量约2.82亿人次 同比增10.6%
- 展望乌镇峰会新十年:推动智能向善 让数字未来更美好
- 跨境电商为平潭经济发展注入新动能
- 浙江文旅观察:乡村运营为什么要整村运营?
- 【三湘四水向新而行——市州经济亮点观察】老工业基地湘潭活力迸发
- 展望乌镇峰会新十年:推动智能向善 让数字未来更美好
- 浙江文旅观察:乡村运营为什么要整村运营?
- 凯里亚德酒店落子河南,南阳新店诠释中端商旅
- 大庆油田连续23年三次采油产量超千万吨
- 特朗普曾说计划对华征60%关税 中国商务部回应
- 浏阳河风光带新段启动建设,打造会展新城生态典范
- 湖南首支战新产业发展基金落户湘江基金小镇
- 青海:“绿色税制+协同共治”护航企业向“绿”而兴
- 大庆油田连续23年三次采油产量超千万吨
- 青海:“绿色税制+协同共治”护航企业向“绿”而兴
- 长沙“交易贷”平台:创新金融服务,助力实体经济
- 商务部:会同相关部门指导航运公司优化航线布局 保障热门航线运力供给
- “交易贷”上线,为长沙企业注入金融“活水”
- 新7天酒店:以极致性价比赋能投资人惠及消费者
- 商务部:推动出台新一批综合保税区维修产品目录
- 前10月广州完成客运量约2.82亿人次 同比增10.6%
- 商务部:推动出台新一批综合保税区维修产品目录
- 国家能源局:截至10月底,全国累计发电装机容量约31.9亿千瓦
- 国家能源局:截至10月底,全国累计发电装机容量约31.9亿千瓦
- 前10月广州完成客运量约2.82亿人次 同比增10.6%
- 雷佳音开局聊人生,草本酒引领健康路 ——《毛铺草本中国行》开播
- 专访礼来全球高级副总裁王莉:揭秘礼来创新之道
- 人人争当“学霸”,贝壳搏学大考引领房产经纪人职业化新风尚
- 新业态新产业催生职业新选择 中国劳务品牌方兴未艾
- 长沙国际采购供需集中对接 发布145项需求清单
- 以旧换新政策持续见效 企业盼加力扩围尽早落地
- 联邦快递加密厦门至美国国际货运航线
- 今年内近1300款游戏获批 数量已超去年
- 长沙国际采购供需集中对接 发布145项需求清单
- 今年内近1300款游戏获批 数量已超去年
- 一片鹅毛,托起一条特色产业链
- 市值管理成资本市场热词 提升投资价值是焦点
- 以旧换新政策持续见效 企业盼加力扩围尽早落地
- 促全球服装业融通发展 2024世界服装大会在东莞虎门举行
- 上海举办“智赋传统 创见新业”行业变革先锋论坛
- 新一轮地产新政密集落地 呵护市场进一步回温
- 新一轮地产新政密集落地 呵护市场进一步回温
- 11月22日央行开展6351亿元7天期逆回购操作
- 促全球服装业融通发展 2024世界服装大会在东莞虎门举行