labmlai/annotated_deep_learning_paper_implementations
这是一个以 PyTorch 为主的深度学习论文实现与教程合集,通过代码和讲解对照,帮助读者理解神经网络及相关算法。
🧑🏫 60+ 深度学习论文实现/教程,附对照笔记 📝;涵盖 transformers(原始、xl、switch、feedback、vit 等)、优化器(adam、adabelief、sophia 等)、GAN(cyclegan、stylegan2 等)、🎮 强化学习(ppo、dqn)、capsnet、蒸馏等 🧠
- 网站将实现代码与解释笔记并排展示,适合希望结合代码学习论文算法的读者。
- 内容涵盖 Transformer、扩散模型、生成对抗网络、强化学习,以及优化器和归一化层等基础组件。
- 还提供 LoRA(低秩微调)、GPT-NeoX 生成与微调、语言模型采样等实现示例。
- 入门可按“选择感兴趣的算法 → 打开对应教程 → 对照笔记阅读代码”的顺序进行。
- README 提供安装命令 pip install labml-nn,但未统一说明所有示例的运行步骤与硬件要求。
发表回复