《具身智能导论》— 从 Robots That Learn 到中文详解
Embodied Intelligence: An Introduction
基于 UC Berkeley CS294-291 “Robots That Learn”, Spring 2026
主讲: Jitendra Malik | TA: Tara Sadjadpour
中文翻译与详解: 含完整数学推导 + PyTorch 代码实现 + 23篇核心论文精读
课程概述
当深度学习席卷计算机视觉和自然语言处理之后,机器人领域终于迎来了自己的”ImageNet 时刻”。这门由 Jitendra Malik 在 UC Berkeley 开设的研究生课程,系统性地呈现了”让机器人从经验中学习”的连贯框架——从生物运动控制的基础原理,到扩散策略、世界模型和视觉-语言-动作大模型等前沿技术。
本书以课程 12 次 Lecture 为蓝本,拆分为 17 章,每章包含完整的数学推导(LaTeX)、论文精读(23篇核心论文)、可运行的 PyTorch 代码(逐行中文注释)以及练习与思考。
第一部分:导论与生物基础
第二部分:控制与学习基础
| 章 |
标题 |
对应 Lecture |
核心内容 |
| 07 |
运动控制的发展视角 |
L5A |
婴儿六条教训、跨模态监督蒸馏、课程学习 |
| 08 |
机器人动力学、控制与运动规划 |
L5B |
LQR/DDP/MPC完整推导、内部模型与反馈误差学习 |
| 09 |
计算神经科学与预测控制 |
L6A |
卡尔曼滤波↔小脑、预测编码、主动推断 |
| 10 |
视频世界模型 |
L6B |
RSSM、World Action Models、Track2Act |
| 11 |
强化学习 |
L7 |
MDP→策略梯度→GAE→SAC完整推导 |
第三部分:学习范式与案例研究
| 章 |
标题 |
对应 Lecture |
核心内容 |
| 12 |
行为克隆 |
L8A |
分布偏移分析、Diffusion Policy、DDIM加速 |
| 13 |
视觉模仿学习 |
L8B |
UMI、SLAM姿态估计、跨具身策略迁移 |
| 14 |
运动控制案例研究 |
L9 |
RMA快速运动适应、自我中心视觉运动 |
| 15 |
导航案例研究 |
L10 |
GOAT多模态目标、快速可穿越性估计 |
| 16 |
灵巧操作案例研究 |
L11 |
阻抗/导纳控制、Sim-to-Real Recipe、UMI-FT |
| 17 |
长程规划与语言 |
L12 |
VLA模型、π0.5、MolmoSpaces、课程总结 |
学习路径
| 路径 |
章节顺序 |
| 机器人学习工程师 |
01 → 03 → 08 → 11 → 12 → 14 → 15 → 16 → 17 |
| 理论研究 |
01 → 04 → 06 → 09 → 10 → 17 |
| 仿生机器人 |
01 → 02 → 05 → 06 → 07 → 14 |
前置知识
| 深度学习 (Bishop & Bishop) |
强化学习 (Sutton & Barto) |
线性代数 · 概率论 · 优化 |
Python/PyTorch |
核心论文清单
| 章 |
论文 |
发表 |
| 02 |
Ramdya & Ijspeert, “The neuromechanics of animal locomotion” |
Science Robotics, 2023 |
| 04 |
Papamakarios et al., “Normalizing Flows”; Lipman et al., “Flow Matching” |
JMLR, 2021; ICLR, 2023 |
| 05 |
Piazza et al., “A Century of Robotic Hands” |
Annual Review, 2019 |
| 06 |
Jones, “Human Hand Function”; Gardner, “Touch” |
OUP, 2006; ELS, 2010 |
| 07 |
Loquercio et al. (ICRA 2023); Smith & Gasser (2005) |
ICRA; Artificial Life |
| 08 |
Kawato (1999); Flanagan et al. (2006) |
Curr. Opin. Neurobiol. |
| 09 |
Land et al., “The roles of vision and eye movements” |
Perception, 1999 |
| 10 |
Ye et al. (arXiv 2026); Bharadhwaj et al. (arXiv 2024) |
arXiv |
| 12 |
Chi et al., “Diffusion Policy” |
RSS, 2023 |
| 13 |
Chi et al., “Universal Manipulation Interface” |
RSS, 2024 |
| 14 |
Kumar et al., “RMA” (RSS 2021); Agarwal et al. (CoRL 2022) |
RSS; CoRL |
| 15 |
Chang et al., “GOAT” (RSS 2024); Frey et al. (RSS 2023) |
RSS |
| 16 |
Lin et al. (CoRL 2025); Choi et al., “UMI-FT” (ICRA 2026) |
CoRL; ICRA |
| 17 |
Physical Intelligence, “π0.5” (CoRL 2025); Kim et al., “MolmoSpaces” (arXiv 2026) |
CoRL; arXiv |
本书由 AI 翻译引擎基于课程 slides + 23篇论文全文自动翻译生成,数学推导经过独立验证,代码实现为基于论文方法的原创 PyTorch 重构。
术语对照表 | GitHub 仓库