1. 项目概述:VLA-0的革新设计理念
在具身智能领域,视觉-语言-动作(VLA)模型一直面临架构复杂、训练成本高的挑战。VLA-0通过"零架构修改"的设计哲学,彻底改变了这一局面。这个项目最吸引我的地方在于:它居然能在不修改任何预训练VLM(视觉语言模型)结构的前提下,将纯文本大模型直接转化为高性能的VLA模型。
传统VLA方案通常需要三类复杂改造:1)设计离散动作令牌化方案;2)新增专用动作生成头;3)定制模型架构。而VLA-0的突破在于,它创造性地将连续机器人动作(如关节角度、末端坐标)归一化为固定范围的整数,再编码为空格分隔的文本字符串。这种设计使得任何现成的VLM都能直接处理动作生成任务,就像处理普通文本生成一样简单。
关键提示:动作文本化的设计需要特别注意数值范围和分隔符的选择。实践中发现,将每个自由度数值映射到0-999范围,使用单个空格分隔,既能保证精度又避免文本过长。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心技术实现解析
2.1 输入输出设计精要
输入设计采用多模态混合格式:
- 系统提示(固定模板)
- 任务指令文本(自然语言)
- 多视角图像(通过VLM原生视觉编码器处理)
输出设计是项目的核心创新点。以6自由度机械臂为例,其动作输出会被编码为类似"453 127 398 205 671 82"的文本序列。这种设计有三大优势:
- 完全复用VLM的文本生成能力
- 无需扩展词表或修改tokenizer
- 保持模型原有的多模态理解能力
python复制# 动作归一化示例代码
def normalize_action(action_values, min_range, max_range):
"""将连续动作值归一化为整数文本"""
scaled = (action_values - min_range) / (max_range - min_range)
return ' '.join([str(int(x * 999)) for x in scaled])
2.2 训练策略创新
2.2.1 掩码动作增强
通过随机掩码目标动作字符串中的字符(替换为'?'),强制模型依赖视觉和语言上下文进行推理,而非简单记忆动作序列模式。这种技术在LIBERO基准测试中使任务成功率提升了
