Python机器学习——原理、算法及案例实战-微课视频版（大数据与人工智能技术丛书）

本书系统介绍了经典的机器学习算法，并通过实践案例对算法进行解析。

本书内容包含三部分: 第一部分（第1章和第2章）为入门篇，着重介绍Python开发基础及数据分析与处理；第二部分（第3章和第4章）为基础篇，着重介绍机器学习的理论框架和常用机器学习模型；第三部分（第5～11章）为实战篇，介绍经典机器学习算法及应用，包括KNN分类算法、KMeans聚类算法、推荐算法、回归算法、支持向量机算法、神经网络算法以及深度学习理论及项目实例。

本书力求叙述简练，概念清晰，通俗易懂。书中的案例选取了接近实际应用的典型问题，以应用能力、创新能力的培养为核心目标。

本书可作为高等院校计算机、软件工程、大数据、通信、电子等相关专业的教材，也可作为成人教育及自学考试用书，还可作为机器学习相关领域开发人员、工程技术人员和研究人员的参考用书。

主要作者为长期从事计算机一线教学的教师，博士学历，研究方向均为人工智能与模式识别,具有丰富的计算机教学经验和扎实的科研经验。主持国家 863子课题、上海市教委子课题等多个科研项目。包括多目标旅行商问题的求解 、稀疏半监督学习方法研究 、面向蛋白质结构预测的支持向量机的研究等、多Agent 蚁群算法在仿真优化中应用研究等。

主持国家、省部级教学改革项目6项，作为核心成员参加上海市精品课程、校级重大教研课题。主编参编教材十余本。多次获得华东师范大学优秀任课教师奖、华东师范大学教学成果奖等奖励。

前言

机器学习是计算机研究领域的一个重要分支，已经成为人工智能的核心基础。一方面，机器学习是人工智能理论和应用研究的桥梁；另一方面，模式识别与数据挖掘的核心算法大都与机器学习有关。机器学习在计算机发展过程中日益完善，目前是人工智能领域最具活力的研究方向之一。

机器学习作为人工智能理论研究的一部分，以数学理论知识为基础，以解决实际问题为实践场景，与社会生产息息相关。在众多领域，机器学习正展现其巨大的潜力，扮演着日益重要的角色。

本书系统介绍了经典的机器学习算法。在编写过程中，尽量减少数学理论知识，将数学公式转换成原理示意图、步骤解析图、流程图、数据图表和源程序等表达方式，帮助读者理解算法原理。本书注重理论联系实际，将算法应用于实际案例场景，培养理论研究能力和分析、解决问题能力。

本书选取典型的问题作为实践案例，借助案例对算法进行系统解析。在解决实际任务的过程中，读者能够掌握机器学习算法并灵活运用。本书带领读者循序渐进，从Python数据分析与挖掘入门，在实践中掌握机器学习基本知识，最终将机器学习算法运用于预测、判断、识别、分类、策略制定等人工智能领域。

本书内容包含三部分: 第一部分（第1章和第2章）为入门篇，着重介绍Python开发基础及数据分析与处理；第二部分（第3章和第4章）为基础篇，着重介绍机器学习的理论框架和常用机器学习模型；第三部分（第5～11章）为实战篇，介绍经典机器学习算法及应用，包括KNN分类算法、KMeans聚类算法、推荐算法、回归算法、支持向量机算法、神经网络算法以及深度学习理论及项目实例。

本书提供丰富的配套资源，包括教学大纲、教学课件、习题答案、程序源码、教学进度表、混合式教学设计和微课视频。资源下载提示

课件等资源: 扫描封底的“课件下载”二维码，在公众号“书圈”下载。

素材（源码）等资源: 扫描目录上方的二维码下载。

视频等资源: 扫描封底刮刮卡中的二维码，再扫描书中相应章节中的二维码，可以在线学习。

本书以培养人工智能与机器学习初学者的实践能力为目标，适用范围广，可作为高等院校计算机、软件工程、大数据、通信、电子等相关专业的教材，也可作为成人教育及自学考试用书，还可作为机器学习相关领域开发人员、工程技术人员和研究人员的参考用书。

本书第1章由刘艳、韩龙哲编写，第2章由李哲编写，第3章由刘艳、李沫沫编写，第4～11章由刘艳编写。全书由刘艳担任主编，完成全书的修改及统稿。

感谢阿里天池AI平台提供的云计算开发环境，极大地提升了模型训练效率。感谢华东师范大学精品教材建设专项基金对本书编写过程的支持。感谢英特尔公司的支持，本书作为英特尔公司Intel AI for Future Workforce教育项目的参考用书。感谢郑骏、王伟、陈志云、黄波、刘小平、常丽、陈宇皓、李小露等多位老师和同学对本书提出的宝贵意见。

由于编者水平有限，内容难免有不足之处，欢迎广大读者批评指正。

编者2021年6月

目录

第一部分入门篇

第1章机器学习概述3

1.1人工智能简介4

1.1.1什么是人工智能4

1.1.2人工智能史上的三次浪潮4

1.1.3人工智能的研究领域8

1.2机器学习的主要工作17

1.3机器学习开发环境19

习题25

第2章Python数据处理基础27

2.1Python程序开发技术27

2.2基本数据类型29

2.3数据文件读写37

2.3.1打开与关闭文件37

2.3.2读取文件内容38

2.3.3将数据写入文件39

2.3.4Pandas存取文件40

2.3.5NumPy存取文件42

习题43

第二部分基础篇

第3章Python常用机器学习库47

3.1NumPy47

3.1.1ndarray对象48

3.1.2NumPy数据类型49

3.1.3NumPy数组属性53

3.1.4其他创建数组的方式55

3.1.5切片、迭代和索引59

3.1.6NumPy计算62

3.2Pandas64

3.2.1Series数据结构64

3.2.2DataFrame对象67

3.2.3数据对齐75

3.3Matplotlib78

3.4OpenCV91

3.5Scikit learn96

3.5.1SKlearn简介96

3.5.2SKlearn的一般步骤97

3.6其他常用模块99

3.6.1WordCloud制作词云99

3.6.2Jieba中文分词101

3.6.3PIL105

习题112

第4章机器学习基础114

4.1机器学习模型115

4.1.1线性模型与非线性模型115

4.1.2浅层模型与深度模型115

4.1.3单一模型与集成模型116

4.1.4监督学习、非监督学习和强化学习116

4.2机器学习算法的选择120

4.2.1模型的确定121

4.2.2性能评估127

4.3Python机器学习利器SKlearn129

4.3.1SKlearn数据预处理129

4.3.2SKlearn模型选择与算法评价132

习题134

第三部分实战篇

第5章KNN分类算法139

5.1KNN分类139

5.2初识KNN——鸢尾花分类142

5.3KNN手写数字识别147

实验150

第6章KMeans聚类算法153

6.1KMeans聚类算法概述153

6.1.1聚类154

6.1.2KMeans聚类154

6.1.3聚类算法的性能评估155

6.2使用KMeans实现数据聚类156

6.2.1使用SKlearn实现KMeans聚类156

6.2.2Python实现KMeans聚类159

6.3KMeans算法存在的问题161

6.3.1KMeans算法的不足161

6.3.2科学确定k值163

6.3.3使用后处理提高聚类效果164

实验164

第7章推荐算法172

7.1推荐系统172

7.1.1推荐算法概述173

7.1.2推荐系统的评价指标175

7.1.3推荐系统面临的挑战177

7.1.4常见的推荐算法178

7.2协同过滤推荐算法178

7.2.1基于用户的协同过滤算法178

7.2.2基于内容的推荐算法183

7.2.3基于图结构的推荐算法185

7.2.4其他推荐算法185

7.3基于内容的推荐算法案例186

7.4协同过滤算法实现电影推荐188

实验195

第8章回归算法196

8.1线性回归197

8.1.1一元线性回归197

8.1.2多元线性回归200

8.2逻辑回归201

8.2.1线性回归存在的问题202

8.2.2逻辑函数Sigmoid203

8.2.3逻辑回归的概念204

8.2.4线性回归与逻辑回归的区别205

8.2.5逻辑回归参数的确定205

8.3回归分析综合案例208

8.3.1信用卡逾期情况预测案例208

8.3.2使用逻辑回归实现鸢尾花分类预测案例211

实验213

第9章支持向量机216

9.1支持向量机的概念216

9.1.1线性判别分析217

9.1.2间隔与支持向量218

9.1.3超平面219

9.1.4感知器220

9.2支持向量机的参数226

9.2.1优化求解226

9.2.2核函数226

9.2.3SVM应用案例226

实验231

第10章神经网络237

10.1神经网络的基本原理237

10.1.1人工神经网络237

10.1.2神经网络结构239

10.2多层神经网络240

10.2.1多隐藏层240

10.2.2激活函数242

10.3BP神经网络244

实验251

第11章深度学习256

11.1深度学习概述257

11.1.1深度学习的产生257

11.1.2深度学习的发展259

11.2卷积神经网络260

11.2.1卷积神经网络的神经科学基础260

11.2.2卷积操作260

11.2.3池化操作263

11.2.4卷积神经网络的激活函数265

11.2.5卷积神经网络模型265

11.3循环神经网络270

11.4常见的深度学习开源框架和平台271

11.5TensorFlow学习框架272

11.6Keras深度学习框架280

11.6.1Keras基础280

11.6.2Keras综合实例280

习题286