深度学习论文精读:李沐的 3 万 Star 论文笔记仓库
深度学习论文精读:李沐的 3 万 Star 论文笔记仓库
做深度学习的人,应该都听过李沐。他在 B 站发的论文精读视频,播放量动辄几十万。但他不只是录视频,还把所有内容整理成了一个 GitHub 仓库,叫 paper-reading。目前 Star 数超过 3.3 万,算是深度学习领域最实用的中文学习资源之一。

这个仓库到底有什么
打开仓库,你会看到一张巨大的表格,列出了 67 篇论文,按方向分类:CNN、Transformer、生成模型、目标检测、对比学习、视频理解、多模态、NLP、系统优化、图神经网络……基本覆盖了深度学习过去十年的重要工作。
每篇论文都有对应的 B 站视频链接,部分还有知乎链接。已经录制完成的有 32 篇,覆盖了从 AlexNet 到 Sora 的关键节点。表格里还标注了引用数,来源是 Semantic Scholar 的 API,自动更新,不用手动维护。
覆盖了哪些方向
计算机视觉是重点。CNN 那一列从 AlexNet 开始,一路到 EfficientNet;Transformer 那列有 ViT、Swin Transformer、MAE;生成模型从 GAN 到 DALL.E 2 再到 Sora,时间线拉得很完整。
目标检测从 R-CNN 到 DETR,对比学习从 InstDisc 到 DINO,视频理解从 DeepVideo 到 TimeSformer。每个方向都有清晰的脉络,不是随便堆论文。
NLP 部分从 Transformer 原论文开始,经过 GPT、BERT、GPT-2、GPT-3,一直到 Llama 3.1。系统部分讲了参数服务器、GPipe、Megatron-LM、ZeRO、Pathways,都是分布式训练绕不开的工作。
适合什么人用
如果你是深度学习方向的学生或从业者,想系统补论文,这个仓库比自己瞎找论文强太多。李沐选的论文基本都是必读的,而且他讲得细,会把论文里的关键思路拎出来,不是简单念摘要。

仓库的 README 里还提到了选论文的原则:偏向之前直播课里没讲过的,同时覆盖十年内有影响力的工作。所以你看到的不是随机拼凑,而是有筛选逻辑的。
和其他资源的区别
网上论文解读不少,但大多是单篇博客或者短视频,不成体系。这个仓库的好处是有结构:按方向分类,按时间排列,每篇都有视频配套。你不需要在各种平台之间跳来跳去,一个仓库就能把某个方向的论文串起来。
另外,李沐的讲解风格偏实战,会结合代码和直觉,不是纯数学推导。对工程背景的人来说,比看原论文友好很多。
一点不足
目前已录制的 32 篇只占总数的一半不到,部分方向的覆盖率还不够。比如多模态那块录了不少,但优化算法只列了三篇,还没录制。如果你关注的方向恰好在未录制的部分,可能需要等更新。
另外,仓库主要是索引和链接,没有论文笔记或摘要的文字版。想要纯文字内容的人可能会觉得不够。
要是索引和链接,没有论文笔记或摘要的文字版。想要纯文字内容的人可能会觉得不够。
更多推荐




所有评论(0)