- GitHub 仓库
- rasbt/LLMs-from-scratch
- 总 Stars
- ★ 108,038
- 主要语言
- Jupyter Notebook
结论先说：想真正理解大模型的人，这份教程是最划算的投入。LLMs-from-scratch 教你用 PyTorch 从零实现一个类 ChatGPT 的大模型，一步一步来。108,038 星，Jupyter Notebook，2023 年创建，11 月 6 日仍在推送，开放 issue 只有 2 个。编辑精选。
它是什么
一份手把手教程：从数据准备、模型结构、训练到推理，全流程自己写一遍，不是讲概念，是带着你把代码敲出来。
能干嘛
把大模型的黑盒打开：注意力机制怎么算、训练循环怎么跑、生成是怎么出来的，自己写一遍就全明白了。
适合谁
想深入理解大模型的开发者、AI 方向的学生、觉得调 API 不够想知其所以然的人。
注意点
仓库许可证未被 API 识别出来，转载和商用前先打开仓库确认授权；教程要跟着跑代码，光看不练等于白看，时间预算要留足。
零基础能跟吗？
要有点 Python 和 PyTorch 基础，完全零基础会吃力。先补一点 PyTorch 入门再跟着走，不然卡在环境配置上最打击人。
站长点评：108,038 星加 2 个开放 issue 这个组合太难得了——十万人学过，问题还收得这么干净。真愿意从零写一遍的人不多，这份教程就是给后者准备的。
⬇ 下载区（本站中转）
本站服务器实时中转 GitHub 文件，国内网络也可稳定下载；也可使用右侧官方链接。 本项目遵循 NOASSERTION 许可证。
要下载其他 GitHub 项目？试试本站的 GitHub 加速下载工具，粘贴链接即可中转。