衡宇 发自 凹非寺量子位 | 公众号 QbitAI
代码Agent这两年为何前进飞快，，成为AI界的宗门巨匠兄？？？？？？
由于这玩意儿自己个儿就超！闭！环！的！
代码Agent可以自动执行、自动验证、自动反馈。。。。。写了代码跑一下就知道对差池，，奖励信号很是清晰明确。。。。。
这给后训练（Post-training）阶段的自反馈闭环提供了完善条件。。。。。
同样是AI界大热门，，具身智能现在就缺少这种“神助”。。。。。
它面临的物理天下比代码Agent面临的天下重大多了，，并且很难获得马上验证。。。。。
它吸收的信号不像代码那样有一个编译器就能判断，，它们模糊、腾贵，，并且每一次真机试错都意味着真金白银的人力和硬件消耗。。。。。
VLA（视觉-语言-行动模子）是具身智能中最早受到关注的手艺蹊径。。。。。
但很快，，各人发明这个手艺保存物理明确缺失、泛化能力极弱、长时序与妄想能力缺乏等等问题，，做不到“一家独大”包打天下。。。。。
各人有点着急。。。。。厥后，，天下模子又成了行业里的新骄子。。。。。
但天下模子似乎也不是灵丹妙药（至少现在来看是这样的）……
这也不可那也不可，，具身智能，，你究竟要怎样。。。。？？？？？？？？？？？？
这个时间，，原力灵机相关认真人站出来亮相：
我以为特殊愚蠢的一件事情是在「手艺蹊径」上给自己贴标签。。。。。这件事情是特殊蠢的。。。。。应该以目的导向。。。。。你要解决什么问题，，挑选对应的要领去解决它，，而不是说我是什么要领的、什么门户的，，为此来证实只有我才是标新立异的。。。。。
他先容，，约莫今年过年前，，原力灵机意识到可将天下模子作为后训练的一部分。。。。。
一晃眼半年已往了。。。。。这个月，，原力灵机宣布了旗下首款具身天下模子DW0.5，，并将它接入天下模子驱动的具身智能后训练框架DFOL2.0。。。。。
“这套基模支持多模态输入，，包括使命指令、图片和视频，，还能选定机械人类型。。。。。我们可以依附历史行动，，展望后续视频状态。。。。。”原力灵机联合首创人汪天才说。。。。。
他先容道，，DW0.5用上万小时真机、多视角数据完成联合预训练，，仿真能力很强，，能天生种种画面。。。。。
不但能做出机械臂正常作业的视频，，就算参考过失行动，，也能还原使命失败的场景，，以此支持DFOL2.0框架的在线强化学习训练。。。。。
DW0.5作为一个高保真仿真器，，把强化学习搬进虚拟天下。。。。。
VLA先给出候选行动，，DW0.5在虚拟情形中预演未来，，判断乐成、失败与偏离风险，，再把可用反馈送回强化学习。。。。。
按其披露的数据，，这套流程可让后训练中真机数据需求骤降60%，，整体训练本钱下降40%。。。。。
具身智能行业急需低本钱反馈闭环
想相识DW0.5，，咱们先来看清它解决了什么样的行业问题。。。。。
具身智能属于物理AI，，它的目的是让机械人在差别情形、差别物体和差别失败条件下一连变强。。。。。
惋惜后训练飞轮一直跑不起来。。。。。
真机一次rollout需要占用机械人、园地和人工，，一次行动失败可能直接让使命中止；；；；人工反馈虽然更靠近真实判断，，但难以高频笼罩每其中心状态；；；；仿真情形本钱确实低许多，，但现实中的接触、遮挡、反光、形变和不确定性又很难被完整复刻。。。。。
基于这个现实，，原力灵机从手艺侧提出了判断：VLA需要一个介于真机、人工反馈和古板仿真之间的训练情形。。。。。最好它足够自制、能支持高频探索，，还更靠近真实操作历程。。。。。
然后新的步伐就被脑暴出来了。。。。。
用真实Rollout数据校准天下模子，，天下模子支持低本钱大规模的情形与数据生产，，新的policy再回到真真相形验证和网络数据。。。。。
DW0.5就肩负了原力灵机VLA模子（DM0.5）后训练中的Learned Environment的角色。。。。。
DW0.5三大专家？？？？？？橹毓狗抡媛呒，，全方位提升泛化能力
DW0.5能展望行动执行后的未来状态，，甚至天生失败轨迹，，并对使命进度打分。。。。。
详细而言，，DW0.5以Video Expert、Action Expert、Value Expert三大专家？？？？？？樽槌赡芰α绰。。。。。Video Expert与Action Expert配合服务行动效果预演，，Value Expert认真价值评估与反馈结构。。。。。
这三个设计的思绪各有考究。。。。。
设计一：Action是强先验，，而不是软提醒
在部分天下模子里，，行动信息只是一个附带的条件输入。。。。。但DW0.5把行动当成结构性的强先验。。。。。
它必需知道“机械臂在往这个偏向移动”，，才华展望出物理上合理的后续画面。。。。。
DW0.5把action看成视频天生的一等条件，，通过结构化的帧级对齐强制绑定。。。。。
在MoT（Mixture of Tokens）注重力中，，行动序列与视频序列拼接，，并用group-diagonal attention mask切断视频帧与非对应行动之间的信息通路。。。。。
从结构上，，执行向左推和向右推的行动，，从一最先就走向完全差别的盘算路径。。。。。
讲原理，，我们视察到近期学术界对这个手艺趋势有规模不小的探讨，，即主流VLA不做视频展望，，只做observation到action的映射。。。。。
DW0.5这类用视频展望作为辅助监视的模子，，理论上能学到更强的因果动态明确。。。。。
设计二：能模拟失败，，才配得上叫“仿真器”
只有乐成轨迹数据训练的模子容易形成过强的乐成偏置，，这样的系统无法识别过失行动，，更谈不上为强化学习提供处分信号。。。。。
同时，，失败轨迹数据的价值对后训练来说挺珍贵的。。。。。
因此DW0.5被明确要求能够天生“做砸了”的视觉轨迹，，让Value Expert可以比照乐成与失败的差别，，给出有区分度的打分。。。。。
其数据战略围绕模拟失败设计，，让模子既学习“应该怎么做”，，也学习“做错了，，天下会酿成什么样”。。。。。
团队体现，，DW0.5有四类数据源：
具身果真数据与自采机械人数据（包括遮挡、接触、延迟等真机噪声）互联网视频数据（增补开放天下动态）Egocentric第一视角人类活动数据（迁徙真实物理交互效果）真机与仿真rollout数据（笼罩偏离、卡住、恢复等中心状态）设计三：Value Expert把未来酿成可训练的反馈
这是DW0.5从“视频天下模子”走向“训练情形”的要害一步。。。。。
Video Expert模拟行动效果，，Value Expert把效果转成可优化信号，，两者连系，，才组成完整的RL训练闭环。。。。。
DW0.5引入Value Expert是为了把天生的未来转化为更麋集的价值信号。。。。。
详细讲，，Value Expert它对目今状态、候选轨；；；；蛘蝦ollout给出乐成概率或使命价值评估，，将希罕的使命效果信号转化为可以在每一步使用的中心反馈。。。。。
在闭环系统中，，Value Expert可以用于：
候选行动筛。。。。。憾远喔鰎ollout打分，，让VLA选择更可能乐成的未来。。。。。RL后训练的reward信号：在天下模子情形中对VLA做战略优化，，无需频仍占用真机。。。。。安排时的在线监测：发明目今状态偏离乐成路径，，实时触发重新妄想或失败恢复。。。。。
数据显示，，DW0.5的Value-Order Correlation抵达95%以上。。。。。
三个设计服务统一个闭环，，让DW0.5在VLA的训练和安排中饰演离线数据增强与偏好结构、RL后训练情形、安排时妄想与清静评估三种角色。。。。。
依托DW0.5训练-调优-安排的全闭环赋能能力，，模子在工程化泛化体现方面同样值得关注。。。。。
1）高阶指令与多步行动追随
模子不但能精准明确“Pick up the hammer, lift it into the air, and hold it steady（拿起铁锤、举至空中并坚持稳固）”等高难度多步长指令，，还能丝滑实现跨构型的行动追随。。。。。
2）多维一连泛化
在面临重大长尾场景时，，展现出了强盛的跨情形、跨使命、跨构型的泛化天生实力。。。。。
3）多视角强一致性
在模拟天生气械人前视、左腕、右腕等多相机流时，，展现出完善的空间与时序一致性。。。。。
4）行动-视频天生高度一致性
能够直觉化地明确人类的双手操作视频，，并将其丝滑且等效地天生为机械臂的操作轨迹。。。。。
让天下模子在具身智能工业大规模落地
说了这么多架构和原理，，最终照旧要回到一个问题：
DW0.5究竟怎么用？？？？？？
整体来看，，DM0.5作为基础战略模子，，DW0.5认真行动效果预演与价值反馈，，RL将两者链接。。。。。
基座模子DM0.5先天生一批初始行动，，推给天下模子DW0.5
—→DW0.5当仿真器，，在虚拟情形里把这些行动会导向的未来“跑”出来，，批量天生乐成和失败的轨迹
—→再由一个强化学习教练员CFG-RL，，给每条轨迹的使命进度打分（乐成的价值一起走高，，失败的价值断崖下跌）
—→打分和奖励实时回传，，更新模子权重，，喂出一个更强的DM0.5
这个循环里大部分数据由DW0.5在线天生，，不必所有靠真机翻来覆去高成外地去试。。。。。
噫吁嚱！
具身智能的天下里，，天下模子终于有了一个明确的、能规；；；；τ迷诨等税才爬汤锏母谖唬
纸上谈兵终觉浅。。。。？？？？？？梢钥吹，，在打气球、晾衣服、叠纸盒等高难度重大使命中，，接入DFOL 2.0的模子相比纯粹SFT（监视微调）基线，，要害方法乐成率蓦地提升。。。。。
打气球使命：“给气球打气”这一步乐成率从10%升至90%；；；；“气筒插入气球”乐成率从10%跃升至100%。。。。。晾衣服使命：“乐成挂上衣架”这一长时序操作的SFT乐成率仅50%，，DFOL2.0加持下翻倍至100%；；；；“衣架塞入衣服”的乐成率也从60%提升到了90%。。。。。叠纸盒使命：“叠右侧纸盒”和“叠左侧纸盒”两浩劫点方法，，乐成率划分从35%拉升到了55%和50%。。。。。
评测集这边，，DW0.5还在EWMBench、WorldArena等基准测试中横扫榜单，，划分以4.73、73.54的分数，，斩获全球SOTA（数据阻止7月9日）。。。。。
真实安排希望方面，，原力灵机体现DW0.5已在内部跑通具死后训练闭环流程DFOL 2.0，，最先肩负数据天生、价值评估和战略迭代事情。。。。。
同时，，这套手艺能力已接入原力灵机推出的DexDev MaaS（Model As a Service）平台。。。。。
关于特定具身场景中零样本泛化能力缺乏的模子，，可通事后训练补足能力，，并接回平台服务。。。。。
值得强调的是，，原力灵机再三对量子位强调并肯定了真实数据无可替换的价值。。。。。
“我们只是用天下模子降低本钱，，真机数据照旧很主要的。。。。。在手艺演进上，，天下模子现在仍需真机校准。。。。。”原力灵机联合首创人汪天才说。。。。。
我们问原力灵机，，关于天下模子在具身智能领域的运用，，尚有哪些其他想法？？？？？？
获得的谜底是这样的——
随着视觉模子能力的一直提升，，现场职员可以借助Ego相机收罗操作数据，，镌汰对专业真机收罗和重大后训练团队的依赖，，降低现场后训练的门槛。。。。。
那么，，就让时间来磨练这个谜底吧～
GitHubhttps://github.com/dexmal/opendwHugging Facehttps://huggingface.co/Dexmal/DW05-Base
一是超大规模市场，，这是基础依托。。。。。作为天下制造业第一大国和全球第二大消耗市场，，我国市场辽阔，，潜力重大。。。。。我国已一连17年成为全球第二大入口市场，，年均增添5.1%，，占全球入口份额从7.9%提升至10%左右。。。。。