简介:《具身智能发展报告(2024年)》由中国信息通信研究院与北京人形机器人创新中心联合发布,聚焦人工智能与机器人交叉融合的新范式,面向产业研究人员、技术开发者及投资机构,系统解答具身智能“是什么、如何发展、走向何处”的核心问题。资源共1个PDF文件,大小约5.46MB,包含完整目录与正文,便于对照阅读与长期存档。已有490人学习。报告从AI视角梳理感知、决策、行动、反馈四大模块的技术演进,分析工业制造、自动驾驶、物流运输、家庭服务、医疗康养等落地场景,并针对技术能力不足、数据短缺、工程实现复杂等挑战展开讨论。读者可借此快速建立具身智能领域的全局认知,辅助趋势研判与决策参考;其中对全球发展态势、技术体系和产业链的梳理,也适合作为政策研究、企业战略规划与学术写作的参考依据。
1. 这份 2024 具身智能研报,为什么会被人当成选型地图来读
具身智能 2024 研报在技术圈里流传得比想象中快。原因很直接:它第一次把“具身智能”这个口号拆成了能评估、能选型、能对照检查的东西。这份报告回答的核心问题不是“机器人会不会取代人”,而是“一条用大模型驱动物理身体的方案,从模型、硬件、数据到产线,到底哪一环最贵、哪一环最容易翻车”。对做方案选型的人来说,这比任何一次概念宣讲都实在。你不需要懂所有模型细节,但需要知道:端到端路线数据成本有多高、仿真到底可不可信、真机投入之前应该用什么样的最小闭环验证。这篇笔记就是照着这套思路,把报告读成一张能动手的落地路径图。
2. 先拆技术栈:具身智能报告的“身体、大脑、环境”三层到底讲了什么
2.1 为什么报告用“本体 + 大模型 + 环境闭环”而不是“一台机器人”
看这份报告之前,我习惯先问一个问题:它说的“具身智能”和我理解的“智能机器人”是不是一回事。读完技术栈部分才确认,报告的核心主张是:具身智能不是一台具体的机器人设备,而是一个由物理本体、认知模型、环境交互闭环三者组成的技术系统。物理本体负责执行动作,认知模型负责理解指令和场景,环境闭环负责把操作结果反馈回模型,让下一次决策发生变化。
这个框架最大的实用价值在于,它把选型问题变成了三个独立问题。你不需要回答“买哪台机器人”,只需要回答三个更具体的问题:我的任务需要什么样的本体自由度、夹爪和传感器;我的模型能不能在这个本体上跑到可用的推理延迟;我的数据闭环能不能支撑模型持续迭代。这三个问题一旦分开,预算和风险就清晰了。报告里所有关于产业链、市场规模、落地阶段的论述,都是建立在这套三层结构之上。
我一般会建议团队在立项时直接用这套框架做一页纸的分工表。硬件组负责本体和传感器选型,算法组负责模型和数据处理,系统组负责闭环和验收口径。传统项目管理里常见的“机器人项目黄了”的本质原因,往往不是机器人不行,而是这三层之间没有对齐验收标准。报告把这三层摆在一起,本质上是在提醒:任何一层单独成熟都不代表系统成熟。
2.2 VLA 架构是主线:从视觉语言模型到动作输出的链路怎么走
报告的技术综述部分,主线非常明确:VLA,也就是 Vision-Language-Action 的模型架构。这个架构不是某个团队的独门方案,而是过去两年操作模型领域收敛出来的主流形态。它的基本链路是:视觉编码器把 RGB 图像变成视觉特征序列,文本编码器把操作指令变成语言特征,两者一起送入大语言模型主干做联合推理,最后经过动作解码器输出机器人各关节的目标位置或增量。
这里有个容易误解的点,就是动作 token 化。大语言模型本身只能输出离散文本 token,所以要让它输出连续动作,就得把动作空间也做成离散字典,或者在模型尾部加一个回归头把隐状态映射成连续量。报告在讨论技术演进时提到的“动作 tokenizer”,指的就是这一层转换。不同方案在这个环节差异很大,有的按关节位置离散化,有的按末端位姿增量离散化,有的直接输出关节速度。选哪一种,直接决定数据预处理和真机部署的复杂度。
判断一个 VLA 方案能不能用,我会先看三件事。第一,它的视觉输入是单目还是多目,分辨率多少,这决定了相机选型和部署位置。第二,它的动作输出维度是否覆盖你的本体自由度,比如六轴机械臂加夹爪,至少需要七个通道,多了夹爪开合就是八路。第三,它的推理延迟在目标算力上能不能压进 200 毫秒以内,超过这个数,抓取类任务的闭环控制就会明显迟滞。
2.3 三条技术路线的取舍:端到端、分层式、模块化的适用边界
报告梳理技术路线时,基本可以归纳为三条:端到端 VLA、分层式大模型规划加传统控制、纯模块化状态机方案。这三条路线不是替代关系,而是适用场景不同。端到端方案泛化能力强,同一个模型可以应对多种物体、多种指令,但数据需求大、调试像黑匣子,失败时很难判断是视觉理解错了还是动作输出错了。
分层式方案是目前工程上我更愿意推荐的折中。上层用大模型做任务规划,把“先去抓杯子,再放到托盘”拆成子步骤,下层仍然用传统运动规划和轨迹跟踪去执行。这样大模型只负责它擅长的语义理解,关节控制交给成熟的控制器,风险被切开了。代价是系统复杂度上升,上下层之间的接口协议需要自己定义,任务的灵活性也不如端到端那么“顺滑”。
模块化状态机是底线方案,适合任务极度固定、不允许出错的产线场景。每个动作都是人工写死的状态转移,根本不依赖模型泛化能力。选型时可以这样判断:任务种类少于五种且长期不变,模块化最稳;任务种类多、环境会变、指令有自然语言成分,分层式最划算;如果目标是做通用操作研究,且团队养得起数据闭环,才值得碰端到端。报告整篇的倾向也是这个顺序,先保证可控,再谈泛化。
3. 按研报口径做机器人选型:硬件、模型、仿真、数据四张表
3.1 硬件层:自由度、传感器、算力怎么配才算匹配 VLA
硬件选型是读这份报告时最容易忽略、也最容易被拖进坑里的部分。原因是报告里关于本体的论述几乎不会给出“买哪台”的答案,它给的是判断维度。把这些维度整理成一张表,落地时对照打勾就行。核心判断逻辑只有一句话:硬件配置必须服务于模型的数据需求,而不是反过来。
| 硬件维度 | 选型判断标准 | 常见误配 |
|---|---|---|
| 机械臂自由度 | 6 轴起步,复杂插拔类任务考虑 7 轴 | 为了好看上 7 轴,但算法组没数据 |
| 夹爪类型 | 二指夹爪适合抓取;三指或软体适合异形件 | 硬夹爪抓软性物体,数据采集时反复掉落 |
| 视觉传感器 | 最少 1 个 RGB-D 深度相机,视角覆盖操作区域 | 用单目 RGB 导致深度信息缺失,抓取高度全靠猜 |
| 力觉反馈 | 末端力传感器或关节力矩传感器,装配类任务必备 | 只靠电流估算力矩,接触时噪声大 |
| 边缘算力 | 以 275 TOPS 左右算力级别起步,预留模型迭代余量 | 用了低算力盒子,模型一换精度直接卡死 |
这张表里最贵的不是机械臂,而是力觉和算力的组合。装配类任务如果目标是要做插拔、拧螺丝这一类涉及接触的操作,末端力传感器必须提前预留,否则采回来的数据在模型训练时无法体现“接触后应该停”的语义。算力方面,我一般会建议按当前模型的推理需求乘两倍来配,因为 VLA 模型的精度往往靠增大视觉分辨率或模型参数来提升,算力余量不够,后面优化空间就没了。
3.2 模型层:开源 VLA 怎么选,参数量与部署条件对照
模型选型是读报告的技术团队最关心的部分。报告不会推荐某个具体模型,但会给出评估模型成熟度的几条线索:参数量、训练数据规模、是否开源、部署条件、支持的动作空间类型。把这些线索拆开看,就能判断一个开源 VLA 是否值得作为基线。
| 模型形态 | 参数量参考 | 推理算力要求 | 适用阶段 |
|---|---|---|---|
| 单任务操作模型 | 1 亿以下 | 边缘盒子可实时跑 | 最小闭环验证 |
| 多任务 VLA | 数十亿级 | 需要高性能边缘算力或机架级 GPU 做蒸馏 | 产线试用前的基线模型 |
| 通用大模型加动作头 | 百亿级及以上 | 机架级推理,延迟通常偏高 | 研究验证,不适合直接上线 |
部署时的关键动作是对模型做蒸馏和量化。常见的做法是先用大参数量模型在离线数据集上蒸馏出一个小模型,再对这个小模型做 INT8 量化。量化这一步是玄学最多的地方,同一个模型在 PyTorch 里跑出来的成功率和在 TensorRT 里跑出来的成功率经常不一致,原因是量化对动作 token 分布敏感。我现在的习惯是:量化后必须重新跑一遍验证集,成功率掉超过两个点就换量化策略。
3.3 仿真层:Sim2Real 置信度怎么评估,仿真器怎么选
仿真层选型要回答的不是“哪个仿真器功能多”,而是“这个仿真器里的实验结果搬到真机上有多少可信度”。报告把仿真视为数据生成和预验证手段,同时也明确点出了 sim-to-real 的落差问题。选仿真器我有三个判断维度:物理引擎精度、视觉渲染真实度、域随机化能力。
物理引擎精度决定动作策略能不能迁移。抓取类任务主要看接触模型和摩擦系数是否可调,如果仿真器里物体一碰就飞,采出来的轨迹数据在真机上没有任何参考价值。视觉渲染真实度决定视觉编码器能否学到有用的特征。这个维度上,带光线追踪渲染的仿真器比传统光栅化渲染有明显的优势,尤其是在透明物体和反光物体场景。域随机化能力是最重要的一项,包括随机光照方向、物体纹理、相机噪声、初始位置扰动。没有域随机化的仿真数据,训练出来的模型在真机上会脆得像纸。
我一般会用一个简单的方法检验仿真器的可用性:先在仿真里复现一个已知的真机抓取轨迹,对比末端轨迹的误差。如果仿真里轨迹和目标位置误差超过两厘米,说明物理参数没调对,这时候做的任何数据生成都是在给模型喂毒。仿真数据在训练集里的占比建议控制在 50% 以内,其余用真机数据,不然模型会过度依赖仿真里的视觉特征。
3.4 数据层:轨迹数据的格式、规模与多样性要求
数据是具身智能项目里最容易被低估的一环。报告给人最强烈的信号是:数据成本决定了项目能不能持续迭代。轨迹数据的本质是“状态到动作”的对应关系,每条轨迹至少应该包含:观测图像序列、本体关节状态序列、动作指令、环境的真实标注。
| 数据字段 | 说明 | 采集要求 |
|---|---|---|
| 图像序列 | 相机原始帧或多视角拼接 | 帧率与动作频率对齐,避免图像和关节数据错位 |
| 关节状态 | 各关节角度或末端位姿 | 与图像时间戳对齐,单位统一 |
| 动作指令 | 模型输入的自然语言或任务编号 | 与轨迹片段一一对应 |
| 环境标注 | 物体初始位置、目标位置、抓取是否成功 | 由人工在采集后回放标注,不能依赖自动判定 |
数据规模没有一个万能阈值,但有一条经验规则:单任务最少准备 1000 条以上有效轨迹,多任务每增加一个新任务,至少追加上百条。低于这个量级,模型基本是过拟合到采集者的操作习惯上,换个操作员数据就不稳。轨迹多样性比数量更重要,同样的抓取任务,物体在不同位置、不同光照、不同背景下各采 50 条,比同一个位置采 300 条有用得多。
4. 从 Demo 到产线试用:四阶段落地的可执行路径与验收口径
4.1 阶段一:仿真里先把多模态对齐做扎实
第一个阶段的目标不是“做出好看的演示”,而是“在仿真理清任务边界”。这时候要定义的事情只有一件:任务的最小闭环是什么。比如“把零件从料盘抓到装配台上”,这就是一个最小闭环,包含视觉识别、目标定位、抓取决策、放置动作四个环节。任务定义不清晰,后面所有数据采集都在浪费时间。
任务定义好后,在仿真环境里搭建对应的场景,设置物体模型、初始位姿随机范围、相机视角。然后跑一个最简单的基线策略,比如手写的示教回放,先确认仿真交互本身是稳定的。之后再引入 VLA 模型做零样本或小样本测试,观察模型在陌生场景里的表现。这个阶段不追求成功率,追求的是找出模型在哪类场景下会崩溃,是视觉误判还是动作输出异常。
仿真预验证时我习惯记录三组数据:任务成功率、平均操作耗时、失败模式分布。失败模式分布尤其重要——把失败原因归类成“没看见物体”“看见了但抓偏了”“抓到了但放歪了”,能直接告诉你下一阶段数据的采集重点。如果失败集中在“抓偏了”,那是动作策略问题,需要增加轨迹多样性;如果集中在“没看见”,那是视觉问题,需要调整相机角度和光照条件。
4.2 阶段二:真机数据采集,遥操作与轨迹回放
仿真验证通过后,进入真机数据采集阶段。这一阶段的成本是四个阶段里最高的,因为要搭一套遥操作系统,让操作员通过示教器或主从设备控制机器人完成动作,同时自动记录所有传感器数据。遥操作设备的细节直接决定数据质量,操作延迟高、操作不顺手,操作员的动作就会变形,采出来的轨迹风格也不自然。
数据落盘格式上,我习惯用 HDF5 单文件存储每条轨迹,所有传感器数据按时间戳对齐放在一起。下面是一个典型的轨迹文件结构示例,字段含义是每个数据通道的存储路径。
import h5py # 打开一条采集好的轨迹文件,观察其中的数据组织方式 with h5py.File("trajectory_0001.h5", "r") as f: # 打印文件内的顶层数据组,用于确认字段是否完整 print(list(f.keys())) # 读取某一帧的图像数据和关节角度数据,字段名以实际采集配置为准 image = f["observations"]["images"]["cam_left"][50] # 第 50 帧左相机图像 joint_pos = f["observations"]["joint_states"]["position"][50] # 第 50 帧关节角度 action = f["actions"]["joint_delta"][50] # 第 50 帧动作增量,用于监督训练这段代码的逻辑是先检查 HDF5 文件顶层包含哪些数据组,再从观测组里读取指定帧的图像和关节状态,最后读取动作组里的动作指令。参数说明方面,“cam_left”是相机名,多相机系统会扩展成 cam_left、cam_right、cam_wrist;joint_delta 是关节增量表示,也可以用 joint_position 绝对位置表示,两者的区别影响模型输出的动作空间定义。
数据采集完成后的第一件事不是训练,而是抽帧检查数据质量。我经历过最耗时的翻车就是图像和关节数据没对齐,原因是相机帧率是 30 帧每秒,关节状态记录频率是 20 赫兹,两条数据流没做插值,训练时模型学到的映射是错位的。现在我会在采集代码里强制做时间戳同步,图像帧和关节状态帧的时间差超过一个采集周期,直接就丢弃或者插值补齐。
4.3 阶段三:端到端微调与安全兜底的双轨策略
数据准备好了,就到了模型微调阶段。这一阶段的原则是:端到端模型负责“理解任务意图”,传统控制器负责“保证物理安全”。两者不是二选一,而是搭在一起跑。VLA 模型输出的粗粒度动作经过一层安全筛选,只有通过校验的动作才被下发给运动控制器,不通过的重新规划或直接停机等待人工介入。
安全筛选最容易实现的是边界校验:机械臂关节角度超限、末端速度过快、接近奇异位姿,这三类情况在动作下发给控制器之前就拦掉。另一种更实用的做法是动作差分校验——计算 VLA 模型输出的动作和当前状态的差异,差异超过阈值就判定为异常输出。语言模型生成的轨迹偶尔会有“跳变”,就是相邻两帧动作突然出现巨大位移,这种输出在物理上不可执行,必须拦住。
微调阶段还有两个参数值得认真调:学习率 Warmup 步数和数据批量大小。VLA 模型的动作头是从零开始训练的,如果一开始就用大学习率,动作头的权重会震荡。我一般会把 Warmup 设在训练总步数的 5% 到 10% 之间,批量大小控制在 32 到 64,稳定性和收敛速度比较平衡。这个阶段不要只看训练集成功率,要留出 10% 的轨迹完全不参与训练,用来做验证集。
4.4 阶段四:产线试用的验收指标与回归口径
到了产线试用阶段,模型能不能用就不是算法组自己说了算了,要定一套统一的验收口径。我用过最有效的口径是四组指标:任务成功率、平均操作时长、人工介入频次、场景泛化能力。前三个比较好理解,最后一个是专门用来防过拟合的——测试时把物体的初始位置、光照条件、背景板全部换掉,看成功率掉了多少个百分点。
| 验收指标 | 通过标准 | 说明 |
|---|---|---|
| 任务成功率 | 连续 200 次操作中不低于 90% | 低于 90% 说明策略不稳定 |
| 平均操作时长 | 不超过人工操作的 1.5 倍 | 突破节拍限制才算可用 |
| 人工介入频次 | 每 50 次操作不超过 1 次 | 频繁介入说明模型边缘情况太多 |
| 场景泛化能力 | 换位置、换光照后成功率不低于原场景的 80% | 低于 80% 说明模型记住的是训练场景 |
验收时要特别注意“连续”两个字。很多项目在演示时很好看,是因为挑了一天内状态最好的时段跑了 20 次,成功率 100%。真正上线时,下午的阳光、旁边人的走动、料盘位置偏了几毫米,都会让成功率直线下降。我现在会把验收测试分散到三个不同时段各跑 60 到 70 次,凑满 200 次,中间掺入位置扰动和环境变化,这样的数据才算数。
5. 读报告做落地最容易翻车的五个坑:现象、原因、解法
5.1 仿真成功率 95%,真机只有 45%,团队当场陷入沉默
这是我见过最常见的翻车现场。现象是仿真环境里模型表现惊艳,任务成功率 95%,搬迁到真机后直接砍半。原因是仿真环境里物体的物理参数、相机位置、光照条件都太理想,模型学到的视觉特征和动作映射在真实世界根本不存在对应物。仿真器的接触模型再精细,也还原不了真实材料表面所有微观特性。
解法是双管齐下。第一,仿真阶段必须开域随机化,随机光照、随机纹理、随机物体重量。第二,训练数据里真机数据占比不能低于 30%,仿真数据只能做预训练和扩充,不能当主力。我现在定训练集配比会遵循“仿真 50%、真机遥操作 30%、真机自主运行回采 20%”的比例,用真机数据兜底。
5.2 实验室里抓得稳,换了个厂房就失灵,原因是视觉过拟合
现象是模型在自己实验室里抓取成功率 90%,拉到客户厂房直接掉到 40%。特征是换场景后模型频繁出现“看不见目标”或“抓错位置”的错误。原因是训练数据里背景太单一,视觉编码器把实验室背景当成识别物体的关键特征了。这在深度学习里叫视觉过拟合,本质是数据多样性不足。
解法是在数据采集阶段做场景增强。具体操作是每次采集时调整桌面背景板颜色、相机曝光、物体摆放角度,尽可能模拟多个环境的组合。如果真机数据采集成本太高,也可以在训练时做图像数据增强,但效果远不如真实环境多样性。这类问题最怕的是团队用“增加模型复杂度”来解,方向错了,加深网络只会让过拟合更严重。
5.3 数据量翻了三倍,模型成功率纹丝不动,数据多样性出了问题
现象是团队很勤奋地采集数据,轨迹数量从 1000 条加到 3000 条,训练结果一点没变。原因是新增的 2000 条轨迹内容高度重复,都是同一个位置、同一个角度、同一个操作员的动作习惯。模型从这些数据里学不到新东西,等于白采。
解法是采集前先做数据分布分析。把已有轨迹按物体位置、光照条件、操作员三个维度画分布统计,找出哪些组合没覆盖到,再定向补采。这里有一条硬性要求:每个新操作员至少要贡献全部数据的 20%,避免模型学到单一操作风格。数据量不等于数据价值,多样性才是。
5.4 模型精度没问题,延迟下不来,产线节拍被卡死
现象是模型成功率已经达标,但推理延迟 800 毫秒,产线节拍要求是 300 毫秒以内。原因是模型参数量太大,边缘盒子算力扛不住,动作解码器在 CPU 上跑成了瓶颈。精度再好的模型,达不到节拍要求就是不可用。
解法有两条路线。第一条是模型层优化,把大模型蒸馏成小模型,对动作头做单独轻量化,再走 INT8 量化,通常能把延迟压到原来的三分之一。第二条是系统层优化,把模型拆成视觉编码和动作解码两个阶段,视觉特征提取用边缘盒子,动作推理结果用缓存预计算,减少重复推理。延迟优化完成后必须重新跑一次完整验收,量化后成功率常常会有波动。
5.5 团队争议一个月“能不能用”,因为没有统一验收口径
现象是项目周会上算法组说“能用”,硬件组说“不稳定”,产线侧说“不敢用”,三方吵了一个月没结论。原因是各方的验收标准完全不同:算法组看模型成功率,硬件组看设备稳定性,产线侧看是否影响节拍。标准不对齐,讨论永远没有交集。
解法是项目启动第一天就照着报告里的框架定死验收口径。任务成功率多少算过、连续跑多少次算数、场景泛化要求掉多少点以内、人工介入频次上限是多少,全部写成文档签字。后续任何一次模型更新都按同一套口径跑回归测试,不满足就不上线。这套口径不仅仅约束模型,还约束整条数据链路,谁改数据格式、谁换相机型号,都要重新跑回归。
6. 把研报翻译成内部决策清单:一套可以照用的验证方法
遇到拿不准的项目,我会先把报告里的判断维度压缩成一张内部评估卡。它不回答“能不能做”,只回答“值不值得现在投入”。评估卡一共四项:任务边界是否清晰、数据闭环是否已有、本体是否支持模型迭代、验收口径是否全员认可。四项里只要有一项打不了勾,项目就先不进真机阶段,回到对应的前置环节补齐。
| 评估维度 | 检查问题 | 未通过时的动作 |
|---|---|---|
| 任务边界 | 能一句话描述任务的最小闭环吗 | 回去重新定义任务 |
| 数据闭环 | 真机数据采集团队和设备到位了吗 | 先解决采集工具链 |
| 硬件余量 | 本体的传感器和算力能支撑模型迭代吗 | 补力觉或换大算力盒子 |
| 验收口径 | 成功率、节拍、泛化标准签字了吗 | 拉齐各方定义再开工 |
最小闭环验证流程是我在真机投入前必跑的一套动作,耗时约一周,成本远低于直接买整条产线设备。流程是:在仿真里把任务场景和随机参数铺开,跑 1000 次仿真获取基线成功率,筛选出前 20% 的随机参数组合作为测试集合;然后在这批参数范围内做真机操作,连续采集 200 次数据,按这套数据训练一个临时模型,最后在扰动条件下跑 50 次实测。50 次实测里有 40 次以上成功,这个方向才值得继续投人投钱。
这套方法教会我最深的一课是:具身智能项目失败的原因不是模型不够强,而是团队在做大系统投入之前,没有先花一周时间验证最小闭环。我一开始也吃过追求大参数量模型的亏,跑了一个月的大模型微调,最后发现连数据同步都没做对。后来所有项目都强制先跑一轮快验证,再决定要不要上规模。希望这个习惯也能帮到你。
本文还有配套的精品资源,点击获取