项目介绍:UvADLC 深度学习教程
UvADLC 深度学习教程是一个专门为学习和探索深度学习理论与实际应用而设计的项目。这个项目主要通过一系列 Jupyter 笔记本来帮助学习者理解课程中的理论内容,并通过具体实现来加深学习体验。这些笔记本涵盖了优化技术、Transformer 模型、图神经网络等多个热门领域和技术。
项目背景
该项目由 Phillip Lippe 编写,课程安排在 2024 年秋季(10 月 28 日至 12 月 20 日)。这些教程不仅可以帮助理解深度学习的重要概念,还详细讲解了 PyTorch 框架和 PyTorch Lightning 的使用,为学习者提供了一对一的 JAX+Flax 框架翻译版本以供选择。
笔记本内容与使用
这些 Jupyter 笔记本被设计为课程辅导的一部分,并在课程的第一小时进行讲解。学员可以选择直接查看已经完成的笔记本,也可以尝试自己动手实践,甚至在实际动手阶段参与代码编写。虽然这些笔记本不是课程必做的作业部分,但内容将对后续的考核和考试非常重要。因此,学员被鼓励熟悉这些笔记本,并自行进行实验和扩展。
运行方式
-
本地运行:所有笔记本可从 GitHub 仓库下载,并在常见的计算机上运行,无需 GPU。我们提供预训练模型,所需磁盘空间小于 1GB。此外,还提供了方便安装的 conda 环境。
-
Google Colab:学员可以选择在 Google Colab 上运行这些笔记本,以利用 GPU 支持和网络访问。在关闭会话前,请记得保存自己的更改。
-
Snellius 集群:对于想要训练大型神经网络的学员,可以选择在 Snellius 集群上运行。这需要将笔记本转换为 Python 脚本并在集群上运行,具体操作细节和注意事项见项目说明。
教程与课程的对齐
项目中涵盖了多达 17 个不同主题的教程课程。这些课程与教学内容紧密结合,涵盖了从基础的 PyTorch 介绍到复杂的 Transformer 和自监督对比学习等一系列现代深度学习的热点话题。
反馈及贡献
作为首次在深度学习课程中推出的讲解教程,项目预期可能会出现小错误或问题。欢迎学员们提出任何反馈、错误指正或改进建议。学员可以通过指定的表格或直接与作者沟通以提交反馈。
引用方式
如果学员们发现这些教程对您的学习和研究有帮助,并希望在您的工作中引用它们,可以按照提供的 bibtex 格式进行引用:
@misc{lippe2024uvadlc,
title = {{UvA Deep Learning Tutorials}},
author = {Phillip Lippe},
year = 2024,
howpublished = {https://uvadlc-notebooks.readthedocs.io/en/latest/}
}
UvADLC 深度学习教程致力于为深度学习爱好者提供一个易于使用与实践的平台,通过理论与实际操作的结合,助力学习者迈向更高的深度学习探索之路。