Python深度学习（清华开发者书库.Python）

深度学习是人工智能技术和研究领域之一，通过建立阶层人工神经网络在计算机实现人工智能。通过本课程的学习，读者可以了解Python开发环境构建、Python基础、网络爬虫的数据采集、深度学习BP神经网络、卷积神经网络、循环神经网络、遗传算法和进化策略等。本课程理论与实践并重，配套教学视频，知识体系完整全面，读者通过本教程的学习可以构建属于自己的深度学习知识体系，了解人工智能的发展趋势和新技术，并可以往自己感兴趣的方向深挖。本书可作为人工智能初学者的入门书目，也可作为具备一定知识背景的读者的学习参考书籍。

王志立 2019及2020 CCF大数据与计算智能大赛**级奖项获得者，并获得了2019第七届CCF BDCI 大数据与计算智能大赛“互联网金融新实体发现”全国二等奖，2020北京数据开放创新应用大赛——科技战疫·大数据公益挑战赛全国第三名，2020年“中兴捧月神算师”算法精英挑战赛全国第二名等多个**级AI竞赛奖项。曾在国际与国内的学术会议上发表学术论文多篇，先后在腾讯等多家知名企业从事大数据与人工智能算法开发。乐于分享人工智能相关知识。

前言

在大数据、云计算及人工智能等领域交叉成果的共同推动下，深度学习的发展再一次实现质的跨越，其相关技术也逐渐被大规模应用于智能手机、计算机、物联网设备、机器人等产品中。作为一个过来人，笔者很能理解深度学习初学者的心情，那种面对浩如烟海的深度学习知识却不知从何学起的“迷茫”成为所有初学者学习历程的绊脚石。一条行之有效的学习路径是每个初学者当前所急需的。为此，笔者想做一个抛砖引玉的人，帮助大家建立起属于自己的深度学习知识体系，也好让大家在学习的路上越走越顺。

笔者用了大半年的时间来编写此书，因为平时有做总结的习惯，所以写的时间并不是很长，更多的是对整本书知识架构的整理。由于深度学习的知识更新得比较快，笔者在2019年底还在更新此书的内容，尽可能删除陈旧知识点，保留精华知识并贡献最新知识给大家。在写书的过程中，笔者通过对理论内容的文献查阅与实战内容的反复验证，不仅让本书更加贴近大家的需求，也让自己各方面能力完成了蜕变。

“授人以鱼，不如授人以渔”，笔者希望本书传达下来的是思想，而不是那一行行的具体实践代码，代码总有被弃用的一天，而思想却可以永存。笔者希望大家通过实践掌握本书的核心知识，并拥有自我学习能力，在笔者设立的知识体系下深挖自己所感兴趣的领域。

笔者在编写此书的过程中感悟良多，其中不乏对当今信息爆炸时代的思考。知识迭代速度超乎了任何人的想象，我们现在需要的并不仅是知识，而是更需要良好的搜索能力与表达能力。为此，笔者希望大家善用搜索引擎来获取最新的消息。互联网上有很多组织发表的优秀论文，GitHub上有很多优秀论文的代码实现，当我们钻研完某个领域最新的1000篇论文时，这个领域的新鲜事便转化为自己的知识；另外就是养成写作的习惯，写作是对自己思维模式的训练，是对自己知识盲区的查漏补缺。未来大家也许并不会从事科研工作，但通过写作锻炼出来的逻辑思维能力和清晰表达复杂信息的能力，必将对大家未来从事的每样工作都有所裨益，所以笔者希望大家都能重视搜索与写作能力的培养！

大家也可以跟笔者一样，将自己所思、所想和所学都上传到互联网上，经受同行的审视，从他们的反馈中不断进步。大家会发现，在尝试将自己的思想表达给同行的时候，自己就已经在进步了。

致谢

此书在完稿前，笔者才深知创作之不易。不过除此之外，笔者得到更多的是一种充实感，写书对笔者来说是创业，也是对自己思维的打磨，整个过程都充满意义。这是一次知识的分享，也是一次有益的尝试。

另外，感谢父母的养育之恩，感谢导师的诲人不倦，感谢深圳大学信息中心和电子与信息工程学院提供的软硬件支持，感谢河海大学王诗宇对本书的插画设计与编辑。

最后，不得不提及的是，由于笔者水平与精力有限，书中难免存在某些疏漏，衷心欢迎大家的指正与批评！

王志立

2020年6月

本书源代码下载

目录

第1章导论

1.1本书学习路线

1.2人工智能与深度学习

1.3深度学习的算法流程

1.3.1特征工程

1.3.2模型评估

1.4总结

第2章Python开发环境搭建

2.1Linux服务器

2.1.1下载与安装

2.1.2使用mobaxterm连接远程服务器

2.1.3在服务器上安装Python开发环境

2.1.4Jupyter Notebook的使用

2.2Windows平台

2.2.1下载Anaconda

2.2.2安装配置

2.2.3安装路径配置

2.2.4系统环境配置

2.2.5在Windows上使用Jupyter Notebook

2.3使用Anaconda国内源

2.3.1更换清华源

2.3.2更换中科大源

2.3.3pip设定永久阿里云源

2.4Python虚拟环境

2.4.1创建Python虚拟环境

2.4.2切换虚拟环境

2.4.3在虚拟环境中安装额外的包

2.4.4虚拟环境的相关命令

2.5PyCharm远程连接服务器

2.5.1下载PyCharm专业版

2.5.2PyCharm连接虚拟环境

2.5.3使用screen进行任务管理

2.6总结

第3章Python基础

3.1Python简介

3.2Python初阶学习

3.2.1变量赋值

3.2.2标准数据类型

3.2.3数据类型转换

3.2.4算术运算符

3.2.5格式化

3.3Python进阶学习

3.3.1循环

3.3.2条件语句

3.3.3文件I/O

3.3.4异常

3.3.5导包

3.4Python高阶学习

3.4.1面向过程编程

3.4.2面向对象编程

3.4.3面向过程与面向对象的区别

3.5正则表达式

3.5.1re.match

3.5.2re.search

3.5.3re.sub

3.5.4re.compile 函数与findall

3.5.5正则表达式的重点

3.6进程与线程

3.6.1多进程的例子

3.6.2多线程例子

3.7总结

第4章深度学习

4.1Keras简介

4.1.1Keras的优点

4.1.2Keras的缺点

4.1.3Keras的安装

4.2全连接神经网络

4.2.1全连接神经网络简介

4.2.2全连接神经网络原理

4.2.3全连接神经网络小结

4.3卷积神经网络

4.3.1全连接神经网络的缺点

4.3.2卷积神经网络原理

4.3.3卷积神经网络与全连接神经网络的区别

4.3.4卷积层

4.3.5局部连接和权值共享

4.3.6池化层

4.3.7训练

4.3.8卷积神经网络的超参数设置

4.3.9卷积神经网络小结

4.4超参数

4.4.1过拟合

4.4.2优化器

4.4.3学习率

4.4.4常见的激励函数

4.4.5常见的损失函数

4.4.6其他超参数

4.4.7超参数设置小结

4.5自编码器

4.5.1自编码器的原理

4.5.2常见的自编码器

4.5.3自编码器小结

4.6RNN与RNN的变种结构

4.6.1RNN与全连接神经网络的区别

4.6.2RNN的优势

4.6.3其他RNN结构

4.6.4LSTM

4.6.5门控循环单元

4.6.6RNN与RNN变种结构小结

4.7代码实践

4.7.1全连接神经网络回归——房价预测

4.7.2全连接神经网络与文本分类

4.7.3卷积神经网络之文本分类

4.7.4卷积神经网络之图像分类

4.7.5自编码器

4.7.6LSTM实例之预测股价趋势

4.8总结

第5章生成对抗网络

5.1生成对抗网络的原理

5.2生成对抗网络的训练过程

5.3实验

5.3.1代码

5.3.2结果分析

5.4总结

第6章遗传算法与神经网络

6.1遗传演化神经网络

6.1.1遗传算法原理

6.1.2遗传算法整体流程

6.1.3遗传算法遇上神经网络

6.1.4演化神经网络实验

6.2遗传拓扑神经网络

6.2.1遗传拓扑神经网络原理

6.2.2算法核心

6.2.3NEAT实验

6.3总结

第7章迁移学习与计算机视觉

7.1计算机视觉

7.1.1图像分类

7.1.2目标检测

7.1.3语义分割

7.1.4实例分割

7.2计算机视觉遇上迁移学习

7.2.1VGG

7.2.2VGG16与图像分类

7.2.3VGG16与目标检测

7.2.4VGG16与语义分割

7.2.5ResNeXt与实例分割

7.3迁移学习与计算机视觉实践

7.3.1实验环境

7.3.2实验流程

7.3.3代码

7.3.4结果分析

7.4总结

第8章迁移学习与自然语言处理

8.1自然语言处理预训练模型

8.1.1Word2Vec

8.1.2BERT

8.1.3RoBERTa

8.1.4ERNIE

8.1.5BERT_WWM

8.1.6NLP预训练模型对比

8.2自然语言处理四大下游任务

8.2.1句子对分类任务

8.2.2单句子分类任务

8.2.3问答任务

8.2.4单句子标注任务

8.3迁移学习与自然语言处理竞赛实践

8.3.1赛题背景

8.3.2赛题任务

8.3.3数据说明

8.3.4环境搭建

8.3.5赛题分析

8.3.6实验代码

8.4总结

参考文献