Skip to the content.

《具身智能导论》— 从 Robots That Learn 到中文详解

Embodied Intelligence: An Introduction
基于 UC Berkeley CS294-291 “Robots That Learn”, Spring 2026
主讲: Jitendra Malik | TA: Tara Sadjadpour
中文翻译与详解: 含完整数学推导 + PyTorch 代码实现 + 23篇核心论文精读


课程概述

当深度学习席卷计算机视觉和自然语言处理之后,机器人领域终于迎来了自己的”ImageNet 时刻”。这门由 Jitendra Malik 在 UC Berkeley 开设的研究生课程,系统性地呈现了”让机器人从经验中学习”的连贯框架——从生物运动控制的基础原理,到扩散策略、世界模型和视觉-语言-动作大模型等前沿技术。

本书以课程 12 次 Lecture 为蓝本,拆分为 17 章,每章包含完整的数学推导(LaTeX)、论文精读(23篇核心论文)、可运行的 PyTorch 代码(逐行中文注释)以及练习与思考。


第一部分:导论与生物基础

章 标题 对应 Lecture 核心内容
01 导论:为什么要让机器人学习 L1 POMDP形式化、具身智能数学定义、七十年历史脉络
02 生物运动力学:行走与奔跑 L2A CPG振荡器、DMP动力学系统、Tegotae局部反馈
03 机器人机构学:运动学与动力学 L2B 李群李代数、PoE前向运动学、RNEA逆动力学
04 扩散模型入门 L3 DDPM/Score/NF/Flow Matching四层范式完整推导
05 人手与灵巧操作 L4A 抓取矩阵、力封闭、世纪机器人手综述
06 本体感觉与触觉感知 L4B 机械感受器传递函数、GelSight/BioTac传感器

第二部分:控制与学习基础

章 标题 对应 Lecture 核心内容
07 运动控制的发展视角 L5A 婴儿六条教训、跨模态监督蒸馏、课程学习
08 机器人动力学、控制与运动规划 L5B LQR/DDP/MPC完整推导、内部模型与反馈误差学习
09 计算神经科学与预测控制 L6A 卡尔曼滤波↔小脑、预测编码、主动推断
10 视频世界模型 L6B RSSM、World Action Models、Track2Act
11 强化学习 L7 MDP→策略梯度→GAE→SAC完整推导

第三部分:学习范式与案例研究

章 标题 对应 Lecture 核心内容
12 行为克隆 L8A 分布偏移分析、Diffusion Policy、DDIM加速
13 视觉模仿学习 L8B UMI、SLAM姿态估计、跨具身策略迁移
14 运动控制案例研究 L9 RMA快速运动适应、自我中心视觉运动
15 导航案例研究 L10 GOAT多模态目标、快速可穿越性估计
16 灵巧操作案例研究 L11 阻抗/导纳控制、Sim-to-Real Recipe、UMI-FT
17 长程规划与语言 L12 VLA模型、π0.5、MolmoSpaces、课程总结

学习路径

路径 章节顺序
机器人学习工程师 01 → 03 → 08 → 11 → 12 → 14 → 15 → 16 → 17
理论研究 01 → 04 → 06 → 09 → 10 → 17
仿生机器人 01 → 02 → 05 → 06 → 07 → 14

前置知识

深度学习 (Bishop & Bishop)     强化学习 (Sutton & Barto)     线性代数 · 概率论 · 优化     Python/PyTorch

核心论文清单

章 论文 发表
02 Ramdya & Ijspeert, “The neuromechanics of animal locomotion” Science Robotics, 2023
04 Papamakarios et al., “Normalizing Flows”; Lipman et al., “Flow Matching” JMLR, 2021; ICLR, 2023
05 Piazza et al., “A Century of Robotic Hands” Annual Review, 2019
06 Jones, “Human Hand Function”; Gardner, “Touch” OUP, 2006; ELS, 2010
07 Loquercio et al. (ICRA 2023); Smith & Gasser (2005) ICRA; Artificial Life
08 Kawato (1999); Flanagan et al. (2006) Curr. Opin. Neurobiol.
09 Land et al., “The roles of vision and eye movements” Perception, 1999
10 Ye et al. (arXiv 2026); Bharadhwaj et al. (arXiv 2024) arXiv
12 Chi et al., “Diffusion Policy” RSS, 2023
13 Chi et al., “Universal Manipulation Interface” RSS, 2024
14 Kumar et al., “RMA” (RSS 2021); Agarwal et al. (CoRL 2022) RSS; CoRL
15 Chang et al., “GOAT” (RSS 2024); Frey et al. (RSS 2023) RSS
16 Lin et al. (CoRL 2025); Choi et al., “UMI-FT” (ICRA 2026) CoRL; ICRA
17 Physical Intelligence, “π0.5” (CoRL 2025); Kim et al., “MolmoSpaces” (arXiv 2026) CoRL; arXiv

本书由 AI 翻译引擎基于课程 slides + 23篇论文全文自动翻译生成,数学推导经过独立验证,代码实现为基于论文方法的原创 PyTorch 重构。
术语对照表  |  GitHub 仓库