这篇文章记录学习路线背后的判断。

为什么这样排序

Fish Book 先建立神经网络的基本直觉;PyTorch 把直觉变成可训练、可调试的程序;CS224N 把这些能力带进 NLP 和 Transformer;CS336 再向训练系统与从零实现语言模型推进。

Fish Book
PyTorch
CS224N
CS336
Research / LLM / Embodied AI

路线不是进度条

这是一张导航图,不是必须严格通关的游戏关卡。后面的课程暴露基础缺口时,可以回到前一阶段做针对性补课;但不因为一个细节没吃透,就无限延迟真实实验。

怎样记录

每篇文章尽量回答四件事:

  1. 今天真正理解了什么?
  2. 哪段公式或代码支撑这个理解?
  3. 之前哪里想错了?
  4. 下一步最小的验证是什么?