Python深度学习：基于PyTorch

这是一本基于新的Python和PyTorch版本的深度学习著作，旨在帮助读者低门槛进入深度学习领域，轻松速掌握深度学习的理论知识和实践方法，快速实现从入门到进阶的转变。

本书是多位人工智能技术专家和大数据技术专家多年工作经验的结晶，从工具使用、技术原理、算法设计、案例实现等多个维度对深度学习进行了系统的讲解。内容选择上，广泛涉猎、重点突出、注重实战；内容安排上，实例切入、由浅入深、循序渐进；表达形式上，深度抽象、化繁为简、用图说话。

本书共16章，分为三部分：

第一部分（第1~4章） PyTorch基础

首先讲解了机器学习和数据科学中必然会用到的工具Numpy的使用，然后从多个角度讲解了Pytorch的必备基础知识，最后详细讲解了Pytorch的神经网络工具箱和数据处理工具箱。

第二部分（第5~8章） 深度学习基础

这部分从技术原理、算法设计、实践技巧等维度讲解了机器学习和深度学习的经典理理论、算法以及提升深度学习模型性能的多种技巧，涵盖视觉处理、NLP和生成式深度学习等主题。

第三部分（第9~16章） 深度学习实践

这部分从工程实践的角度讲解了深度学习的工程方法和在一些热门领域的实践方案，具体包括人脸识别、图像修复、图像增强、风格迁移、中英文互译、生成式对抗网络、对抗攻击、强化学习、深度强化学习等内容。

★吴茂贵

资深大数据和人工智能技术专家，就职于中国外汇交易中心，在BI、数据挖掘与分析、数据仓库、机器学习等领域工作超过20年。在基于Spark、TensorFlow、PyTorch、Keras等的机器学习和深度学习方面有大量的工程实践实践。著有《Python深度学习：基于TensorFlow》《深度实践Spark机器学习》《自己动手做大数据系统》等著作。

★郁明敏

资深商业分析师，从事互联网金融算法研究工作，专注于大数据、机器学习以及数据可视化的相关领域，擅长 Python、Hadoop、Spark 等技术，拥有丰富的实战经验。曾获“江苏省TI杯大学生电子竞技大赛”二等奖和“华为杯全国大学生数学建模大赛”二等奖。

★杨本法

高级算法工程师，在流程优化、数据分析、数据挖掘等领域有10余年实战经验，熟悉Hadoop和Spark技术栈。有大量工程实践经验，做过的项目包括：推荐系统、销售预测系统、舆情监控系统、拣货系统、报表可视化、配送路线优化系统等。

★李涛

资深AI技术工程师，对PyTorch、Caffe、TensorFlow等深度学习框架以及计算机视觉技术有深刻的理解和丰富的实践经验，曾经参与和主导过服务机器人、无人售后店、搜索排序等多个人工智能相关的项目。

★张粤磊

资深大数据技术专家，飞谷云创始人，有10余年一线数据数据挖掘与分析实战经验。先后在咨询、金融、互联网行业担任大数据平台的技术负责人或架构师。

（1）核心作者在大数据和人工智能领域有着超过20年的工作经验，实战经验非常丰富，其他几位作者也在大数据和人工智能领域颇有造诣。

（2）作者团队之前还著有《深入理解Spark机器学习》、《Python深度学习：基于TensorFlow》、《自己动手做大数据系统》等畅销书。

（3）本书是《Python深度学习：基于TensorFlow》的姊妹篇。

（4）本书从工具使用、技术原理、算法实现、工程实践等维度全面、系统讲解了深度学习。

（5）本书在内容的选择、安排和表现形式上精心谋划，目的是确保高质量内容的同时，让深度学习的学习门槛大大降低。

为什么写这本书

在人工智能时代，如何尽快掌握人工智能的核心——深度学习，是每个欲进入该领域的人都会面临的问题。目前，深度学习框架很多，如TensorFlow、PyTorch、Keras、FastAI、CNTK等，这些框架各有优缺点，应该如何选择？是否有一些标准？我认为，适合自己的就是最好的。

如果你是一位初学者，建议选择PyTorch，有了一定的基础之后，可以学习其他一些架构，如TensorFlow、CNTK等。建议初学者选择PyTorch的主要依据是：

1）PyTorch是动态计算图，其用法更贴近Python，并且，PyTorch与Python共用了许多Numpy的命令，可以降低学习的门槛，比TensorFlow更容易上手。

2）PyTorch需要定义网络层、参数更新等关键步骤，这非常有助于理解深度学习的核心；而Keras虽然也非常简单，且容易上手，但封装粒度很粗，隐藏了很多关键步骤。

3）PyTorch的动态图机制在调试方面非常方便，如果计算图运行出错，马上可以跟踪问题。PyTorch的调试与Python的调试一样，通过断点检查就可以高效解决问题。

4）PyTorch的流行度仅次于TensorFlow。而最近一年，在GitHub关注度和贡献者的增长方面，PyTorch跟TensorFlow基本持平。PyTorch的搜索热度持续上涨，加上FastAI的支持，PyTorch将受到越来越多机器学习从业者的青睐。

深度学习是人工智能的核心，随着大量相关项目的落地，人们对深度学习的兴趣也持续上升。不过掌握深度学习却不是一件轻松的事情，尤其是对机器学习或深度学习的初学者来说，挑战更多。为了广大人工智能初学者或爱好者能在较短时间内掌握深度学习基础及利用PyTorch解决深度学习问题，我们花了近一年时间打磨这本书，在内容选择、安排和组织等方面采用了如下方法。

（1）内容选择：广泛涉猎+精讲+注重实战

深度学习涉及面比较广，且有一定门槛。没有一定广度很难达到一定深度，所以本书内容基本包括了机器学习、深度学习的主要内容。书中各章一般先简单介绍相应的架构或原理，帮助读者理解深度学习的本质。当然，如果只有概念、框架、原理、数学公式的介绍，可能就显得有点抽象或乏味，所以，每章都配有大量实践案例，通过实例有利于加深对原理和公式的理解，同时有利于把相关内容融会贯通。

（2）内容安排：简单实例开始+循序渐进

深度学习是一块难啃的硬骨头，对有一定开发经验和数学基础的从业者是这样，对初学者更是如此。其中卷积神经网络、循环神经网络、对抗式神经网络是深度学习的基石，同时也是深度学习的3大硬骨头。为了让读者更好地理解掌握这些网络，我们采用循序渐进的方式，先从简单特例开始，然后逐步介绍更一般性的内容，最后通过一些PyTorch代码实例实现之，整本书的结构及各章节内容安排都遵循这个原则。此外，一些优化方法也采用这种方法，如对数据集Cifar10分类优化，先用一般卷积神经网络，然后使用集成方法、现代经典网络，最后采用数据增加和迁移方法，使得模型精度不断提升，由最初的68%，上升到74%和90%，最后达到95%左右。

（3）表达形式：让图说话，一张好图胜过千言万语

在机器学习、深度学习中有很多抽象的概念、复杂的算法、深奥的理论等，如Numpy的广播机制、梯度下降对学习率敏感、神经网络中的共享参数、动量优化法、梯度消失或爆炸等，这些内容如果只用文字来描述，可能很难达到使读者茅塞顿开的效果，但如果用一些图形来展现，再加上适当的文字说明，往往能取得非常好的效果，正所谓一张好图胜过千言万语。

除了以上谈到的3个方面，为了帮助大家更好理解、更快掌握机器学习、深度学习这些人工智能的核心内容，本书还包含了其他方法。我们希望通过这些方法方式带给你不一样的理解和体验，使抽象数学不抽象、深度学习不深奥、复杂算法不复杂、难学的深度学习也易学，这也是我们写这本书的主要目的。

至于人工智能（AI）的重要性，我想就不用多说了。如果说2016年前属于摆事实论证的阶段，2017年和2018年是事实胜于雄辩的阶段，那么2019年及以后就进入百舸争流、奋楫者先的阶段。目前各行各业都忙于“AI+”，大家都希望通过AI来改造传统流程、传统结构、传统业务、传统架构，其效果犹如历史上用电改造原有的各行各业一样。

前言

第一部分　PyTorch基础

第1章　Numpy基础2

第2章　PyTorch基础21

第3章　PyTorch神经网络工具箱49

第4章　PyTorch数据处理工具箱63

第二部分　深度学习基础

第5章　机器学习基础76

第6章　视觉处理基础105

第7章　自然语言处理基础138

第8章　生成式深度学习167

第三部分　深度学习实践

第9章　人脸检测与识别188

第10章　迁移学习实例203

第11章　神经网络机器翻译实例218

第12章　实战生成式模型238

第13章　Caffe2模型迁移实例263

第14章　AI新方向：对抗攻击269

第15章　强化学习278

第16章　深度强化学习288

附录A　PyTorch0.4版本变更296

附录B　AI在各行业的最新应用301