1. DM0架构概述:面向真实机器人的VLA创新设计
DM0是一种面向真实物理机器人的视觉语言动作(VLA)架构,其核心创新在于将通用多模态能力与具身动作控制能力有机结合。作为一名长期从事机器人控制算法开发的工程师,我首次接触DM0时就被其"VLM骨干+流匹配动作专家"的双组件设计所吸引。这种架构既保留了大型语言模型强大的语义理解能力,又通过专门的流匹配模块实现了精准的连续动作生成。
在实际机器人应用中,传统方法往往面临语义与动作割裂的问题。比如在"拿起左边第二朵花"这样的任务中,语义模型可以理解指令,但难以转化为具体的关节运动。DM0通过四层空间思维链(子任务分解→目标边界框预测→末端执行器轨迹预测→离散动作预测)构建了从抽象语义到具象动作的完整桥梁。这种渐进式转化机制,在我的测试中显著提升了复杂任务的执行成功率。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心架构解析:双组件协同工作原理
2.1 VLM骨干模块设计
VLM骨干基于Qwen3-1.7B大语言模型构建,新增了专门的感知编码器(PE)来处理多模态输入。在实际部署中,我发现这个400M参数的PE模块有几个关键设计亮点:
- 多视图图像处理:输入图像统一resize到728×728分辨率,通过两个3×3卷积层(步幅2)实现4倍下采样。这种设计在保持足够视觉细节的同时,显著降低了计算开销。
- 状态信息融合:机器人本体感受状态(关节角度、位置等)与视觉特征在嵌入空间进行拼接,为LLM提供完整的场景理解。
- 轻量化适配:相比动辄10B+参数的VLM模型,1.7B的规模使其更适合实时机器人控制场景。
在真实机械臂测试中,这种设计实现了约50ms的推理延迟(NVIDIA Jetson AGX Orin平台),满足大多数实时控制需求。
2.2 流匹配动作专家
动作专家模块采用流匹配(Flow Matching)算法,具有以下技术特点:
- KV缓存复用:直接利用VLM骨干的键值缓存作为输入,避免了重复计算,实测可减少约30%的推理时间。
- 噪声到动作的映射:通过高斯噪声ε~N(0,I)引导动作生成,增强了输出的多样性和鲁棒性。
- 连续动作输出:直接生成机器人可执行的关节角度或末端位姿序列,省去了传统pipeline中的多个转换环节。
我在UR5机械臂上对比发现,相比传统的PD控制器+运动规划器方
