深度学习简介

欢迎来到Teb's Lab的深度学习入门课程。这些材料旨在支持希望深入探索神经网络和深度学习世界的教师和自学者。本仓库的结构是一系列有序的入门阅读材料、实践演练和额外资源的集合，旨在帮助你练习并更深入地探索这些主题。

这些资源主要面向刚开始学习机器学习的人群，它们并不是深度学习的全面研究。由于该领域似乎每隔几分钟就在演变，当你看到这里时，某些信息可能已经过时。考虑到这一点，这些材料着重于可以作为未来学习跳板的基础信息。

每个文件夹代表深度学习领域内的一个较大的子主题。在每个文件夹中，你会发现一个readme文件和一系列Jupyter笔记本。每个readme包含对该主题的简要概述，并描述了子主题。每个子主题都有预读建议、一个演示如何将预读概念付诸实践的Jupyter笔记本、与笔记本中使用的技术和工具相关的文档，以及建议的进一步探索该子主题的资源。

虽然这些笔记本力求充分描述其主题，但它们都有明显的不完美之处。我们强烈建议使用这些材料的学生不仅要阅读笔记本，还要改变和扩展它们，以提高其中模型的性能。这样做将显著提高你对所呈现主题的理解。

一些子领域明显缺失，如生成对抗网络（GAN）和自然语言处理（NLP）。这些主题可能会在稍后添加。然而，我们希望这些笔记本中的信息足以让学习过这些材料的学生能够自行探索这些更高级的主题。

使用这些材料

在本地运行笔记本

这些材料不是静态的，也不意味着以静态方式使用。虽然我们认为按原样阅读Jupyter笔记本中的信息是一个有用的参考，也是一个有帮助的起点，但选择这种格式是为了鼓励修改和探索。我们建议学生先fork这个仓库，然后克隆到他们的机器上，并在探索深度学习时对笔记本进行重大修改。如果你不熟悉Git/Github，可以在这里学习如何fork和克隆仓库。

要运行这些笔记本，你需要安装Python3和pipenv。可以在前面的链接中找到安装Pipenv的说明。大多数计算机都预装了Python3版本，但如果你的电脑没有，可以按照这些说明安装。安装Python3和Pipenv后，导航到主仓库文件夹并运行以下命令：

pipenv install
pipenv shell
jupyter contrib nbextension install --user
jupyter nbextensions_configurator enable --user
jupyter notebook

之后的运行，你只需要执行：

pipenv shell
jupyter notebook

应该会在你的网页浏览器中打开一个新标签页，允许你浏览Jupyter笔记本。

注意：强化学习部分的开发依赖

当前版本的强化学习实验室尚未更新到TensorFlow 2，我已得知在Catalina之后的OSX上安装box2d存在额外困难...我们正在解决这个问题。

深度强化学习部分需要额外的依赖，在许多情况下，这些依赖的安装并不简单。这些依赖在Pipfile中列为dev-packages，因此默认情况下不会安装。特别是允许OpenAI的gym包运行Atari游戏的代码，不能仅使用pip或pipenv安装。要运行第5和第6部分的代码，你需要执行以下操作：

使用pip以外的方法安装box2d和ffmpeg：

对于Mac用户：

brew install box2d
brew install ffmpeg

对于其他平台或更多详情，请参见以下内容：

• Box2D安装帮助，Windows
• 所有OpenAI Gym依赖指南，Linux
• FFMPEG安装帮助

安装box2d和ffmpeg后，使用以下命令安装dev-packages：

pipenv install -d

使用Google Colab

或者，这些笔记本中的大部分可以直接在Google Colaboratory上运行。Google Colab提供了直接从Github打开Jupyter笔记本的选项。当你进入Colab主页时，会出现一个带有金色/橙色导航标题的框，点击"Github"链接，在提供的搜索栏中输入"tebs-lab"，然后在下拉菜单中选择这个仓库，"intro-to-deep-learning"。

应该会出现这个仓库中所有笔记本的列表。选择你想打开的笔记本，你就可以开始了。 Colab方法有几个缺点。首先，对于某些实验（特别是深度强化学习材料），需要的依赖项在Colab上并不能开箱即用。虽然有办法在Colab实例中添加这些依赖项，但并不总是那么简单。

其次，一些笔记本需要外部数据集，由于大小或许可原因，这些数据集无法直接包含在本仓库中。在这些情况下，我们尽量留下清晰的说明，指导如何获取相关数据集和其他资源。数据处理是机器学习实践者工作中非常真实的一部分，我们认为这些练习是宝贵的实践经验。同样，虽然可以将这些数据上传到Colab，但不如在本地运行实验那么容易。

如果你的电脑处理能力不强，Colab是一个很好的方式来利用Google的计算资源，获得更好的性能并缩短训练时间。

全局资源

每个课程和章节都有自己的资源和阅读材料，以帮助学生为每个单独的主题做准备，并进一步探索该主题。虽然这些零散的资源很有用，但拥有更大、更连贯、更完整的资源也很有帮助。此外，本课程重点关注深度学习策略的实际应用。

以下资源以许多单独阅读材料所没有的方式更深入地探讨了深度学习的理论和数学。这些是全局性的、连贯的、完整的资源，对于好奇的学生来说，在整个课程中甚至之后都会很有用。

• 《深度学习》
• 《神经网络与深度学习》
• 《强化学习：导论》

公共数据集

在本课程中，你将通过使用特定数据集来学习更多关于如何使用神经网络的知识。为了将这些技能付诸实践，尝试应用这些原则是个好主意。Kaggle有很多很棒的数据集供你使用，不妨看看：

• Kaggle公共数据集大列表（分类和回归）
• Oxford-IIT宠物数据集（物体定位和分割）

版权和许可

本仓库的目的纯粹是教育性的。

此处提供的信息和代码不附带任何形式的保证。

本仓库中所有原创代码和写作都已发布到公共领域。你可以将其用于任何目的，不受任何限制。

这里有少量图片链接自外部文章，因此受现有版权保护。Teb's Lab不对这些材料主张任何权利，它们也不包含在公共领域声明中。这些图片在出现的笔记本中都清楚地标明了来源。如果你想以不属于合理使用范围的方式使用这些图片，你有责任在使用前获得版权所有者的许可。

支持Teb's Lab

这些材料由Tyler Bettilyon和Teb's Lab创建。你可以通过与他人分享这些材料并订阅我们的通讯来支持更多免费、开源、公共领域教育材料的创作。