大模型训练过程,开始更多地出现在公众视野中。
此前,小米 MiMo 负责人罗福莉公开了 MiMo-V2.6 强化学习阶段的训练进展,让外界看到了大模型训练中的一些具体细节。
现在,Physical AI 领域也有了类似尝试。
10 月 21 日,生数科技世界模型团队正式开启 Motubrain 2.0 训练全流程公开直播,计划持续半个月,向公众展示具身模型的训练过程及研究进展。
这次直播关注一个问题:Physical AI 究竟如何实现?
Physical AI,即物理人工智能,希望让 AI 能够理解物理环境,并通过机器人完成实际任务。相比大语言模型,Physical AI 还需要解决动作决策、任务执行和跨场景泛化等问题。
Motubrain 系列是生数科技研发的具身模型,致力于为机器人构建具备通用能力的 " 大脑 ",探索不同任务、场景和机器人本体之间的能力泛化。
Motubrain 2.0 即将开源。在正式开源前,团队选择率先公开其训练全流程,向外界展示这款模型从训练、测试到能力迭代的过程。
此次公开训练涵盖四个环节:
1、预训练:观察训练规模对模型性能及零样本泛化能力的影响。
2、后训练:针对具体任务进一步训练,提升任务执行能力。
3、Agent 任务执行:探索模型能否将已有经验迁移到其他任务。
4、RSI(递归自我改进)探索:研究模型能否根据执行反馈评估并改进自身行动。
此次直播的特别之处,是尝试打开具身模型训练的 " 黑盒 "。
过去,外界了解具身智能技术进展,主要通过机器人 Demo、评测结果和论文。模型经历了怎样的训练、不同阶段的能力如何变化,通常很难直接观察。
Motubrain 2.0 选择公开从训练、测试到能力迭代的全过程,希望让外界看到模型如何逐步形成能力,也能看到训练中的失败、试错和调整。
对于具身智能行业而言,这种方式让模型研发过程更加透明。研究者和开发者不仅能看到最终结果,也有机会了解训练中遇到的具体问题,以及团队如何通过实验和反馈不断改进模型。
同时,团队也希望借助此次直播,与技术同行分享研究中的经验、问题和思考,共同探讨规模化训练、跨任务泛化和自主改进等关键问题,为 Physical AI 实现范式的探索提供更多参考。
当然,相关研究仍处于探索阶段,具体效果还需要后续实验和评测验证。相比只展示机器人最终能做什么,公开模型如何训练、能力如何形成,同样具有研究价值。
直播入口:www.motubrain.com/motubrain2.0-live
官网链接:www.motubrain.com