深度学习：入门与实践

　　《深度学习：入门与实践》由一线资深技术专家撰写，凝结了其自身多年的实践经验，阐述了深度学习的发展历程、相关概念和工作原理，介绍了两个当前流行的深度学习工具：Caffe 和TensorFlow ，并且初步探讨了强化学习的基本原理和应用。为了帮助初学者快速上手，《深度学习：入门与实践》注重从总体框架和脉络上把握深度学习技术，同时在阐述原理时配以简单的实例供读者印证。

　　《深度学习：入门与实践》语言生动风趣，以通俗的语言讲述复杂的原理，循循善诱，深入浅出，深度学习：入门与实践适合有志于从事人工智能、深度学习相关研究的信息类专业的高年级本科生或研究生阅读，也可供业界准备或正在从事深度学习、机器视觉等相关研发工作的工程技术人员参考。

　　龙飞，高级工程师，本科毕业于南京大学，博士毕业于清华大学，香港科技大学博士后。曾供职于中国电子科技集团公司第五十四研究所。现任中国搜索创新研发部总监。负责公司互联网创新产品和人工智能、大数据相关项目的研发。主持并参与了国搜识图、国搜学术、国搜图书等平台和频道的研发与上线。主要研究方向为网络路由、无线网状网络，近年涉足深度学习、数据挖掘领域。在国内外发表学术论文20余篇，获得软件著作权5项，并著有中文专著2部，英文专著1部，译著2部。

　　一线资深技术专家撰写，凝结其自身多年的实践经验，深入浅出阐述深度学习的发展历程、相关概念和工作原理涉及当前流行的两个深度学习工具：Caffe和TensorFlow，并且初步探讨强化学习的基本原理和应用

　　前言

　　中国工程院院士、互联网专家邬贺铨在移动互联网国际研讨会（IMIC2014）上指出，互联网已经进入“大智移云”（大数据、智能化、移动互联网和云计算）时代。近两年来，“大智移云”得到了蓬勃发展。其中，大数据、人工智能联系紧密，受到了业界和学术界越来越多的关注。中国科学院张钹院士在第十七届中国国际高新技术成果交易会的“深度学习与人工智能”院士论坛上表示，大数据给人工智能带来了新的发展机遇，即深度学习。

　　深度学习其实并不神秘，小到微信中语音转文字、“扫一扫”中的封面识别和翻译，大到打败世界顶尖棋手李世乭的谷歌围棋人工智能程序AlphaGo，都有深度学习的身影。随着技术的进步，相信深度学习将会深入人们的生活中，得到越来越广泛的应用。

　　本书是一种关于深度学习的入门读物，面向的是希望了解深度学习技术的高年级理工科本科生和研究生，还有业界对深度学习感兴趣的技术人士。为了能让深度学习零基础的技术人员快速上手，笔者力求按照初学者的学习历程来组织本书内容。对于初学者来说，如何才能以最快的速度了解一门技术并产生兴趣？笔者以为需要做到三点：首先需要对技术的基本原理有透彻的了解；其次需要对技术的总体框架和脉络有所掌握；再次需要有容易上手的实例以供实践。最终达到理论与实践的结合，具体原理与知识整体框架的统一。

　　有鉴于此，本书比较注重对深度学习基本原理的阐释，对深度学习及其所属的机器学习的框架性内容的探讨，还有笔者所参与的项目的实例分享。希望按照笔者的理解，将深度学习的原理、框架和实践分享给对深度学习感兴趣的人士。由于深度学习是机器学习的一个领域，为了体系的完整性，本书会介绍一些机器学习的基本知识，并由此引出深度学习的内容。

　　全书分为四大部分：第一部分介绍机器学习的基础知识；第二部分介绍深度学习的原理；第三部分介绍当前热门的深度学习工具Caffe和Tensorflow；第四部分介绍强化学习基本原理和人工智能围棋程序AlphaGo的架构。每部分都会配有可实现之实例以供印证所述原理。本书主要参考了南京大学周志华教授的《机器学习》，AndrewNg（吴恩达）的UFLDL和Coursera机器学习课程，微软LiDeng和DongYu的DeepLearning:MethodsandApplications，MichaelNielsen的NeuralNetworksandDeepLearning等资料。这些资料充分体现了机器学习领域的诸位前辈高人们深厚的学养和高超的技艺，对笔者启发颇多，借此机会向吴恩达教授等前辈高人致敬！

　　深度学习的发展非常迅速，国内外巨头科技公司都不惜重金对此投入，故技术更新极快。而笔者对本领域初窥门径，水平有限，加之成书时间仓促，欠妥之处在所难免，读者朋友们若不吝相告，则不胜感激。

　　本书中涉及的所有代码、图片文件和数据集等都上传至百度云盘：

　　http://pan.baidu.com/share/init?shareid=258036058&uk=2051007731

　　密码：z7id，读者可自行下载，以供实验之用。

　　作者

　　2017年3月

目录

第1章绪论

1.1引言

1.2基本概念

1.2.1回归、分类、聚类

1.2.2监督学习、非监督学习、半监督学习、强化学习

1.2.3感知机、神经网络

1.3发展历程

1.4相关学者与会议或赛事

1.5本章小结

参考文献

第2章回归

2.1线性回归

2.1.1问题描述

2.1.2问题求解

2.1.3工具实现

2.2逻辑回归

2.2.1问题描述

2.2.2问题求解

2.2.3工具实现

2.3本章小结

参考文献

第3章人工神经网络

3.1Rosenblatt感知机

3.1.1训练方法

3.1.2算法实例

3.1.3梯度下降

3.2人工神经网络

3.2.1网络架构

3.2.2训练方法

3.2.3算法实例

3.3本章小结

参考文献

深度学习：入门与实践

目录

第4章Caffe简介

4.1CNN原理

4.1.1卷积

4.1.2池化

4.1.3LeNet5

4.2Caffe架构

4.2.1Blob类

4.2.2Layer类

4.2.3Net类

4.2.4Solver类

4.3Caffe应用实例

4.3.1车型识别

4.3.2目标检测

4.4本章小结

参考文献

第5章TensorFlow简介

5.1TensorFlow架构

5.2TensorFlow简单应用

5.2.1TensorFlow安装

5.2.2线性回归

5.3TensorFlow高级应用

5.3.1MNIST手写数字识别

5.3.2车型识别

5.4本章小结

参考文献

第6章强化学习简介

6.1强化学习基本原理

6.2AlphaGo基本架构

6.3其他趣味应用

6.4本章小结

参考文献

后记