艾博士：深入浅出人工智能

本书是一本针对初学者介绍人工智能基础知识的书籍。本书采用通俗易懂的语言讲解人工智能的基本概念、发展历程和主要方法，内容涵盖人工智能的核心方法，包括什么是人工智能、神经网络（深度学习）是如何实现的、计算机是如何学会下棋的、计算机是如何找到z优路径的、如何用随机算法求解组合优化问题、统计机器学习方法是如何实现分类与聚类的、专家系统是如何实现的等，每种方法都配有例题并给出详细的求解过程，以帮助读者理解和掌握算法实质，提高读者解决实际问题的能力。

此外，本书可以帮助人工智能的开发人员理解各种算法背后的基本原理。书中的讲解方法和示例，有助于相关课程的教师讲解相关概念和算法。

总之，这是一本实用性强、通俗易懂的人工智能入门教材，适合不同背景的读者学习和使用。

l 本书设计了博学的艾博士和好学的小明两个人物，以师徒二人对话的方式，一步步由浅入深地讲解人工智能的基本原理和方法，讲解详细，通俗易懂，给读者以在教室听课的真实感。

l 本书精心挑选了人工智能发展史上一些主要的方法进行详细讲解，通过本书的学习，使得读者对人工智能有一个比较全面的了解，为进一步深入学习和研究人工智能打下良好的基础。

l 结合例题，本书对相关概念和算法背后的原理做了详细的讲解，对学习过程中容易犯的错误做了重点说明，适合与对人工智能感兴趣的初学者、从事人工智能开发的工程人员以及讲授相关课程的教师阅读，通过本书的学习，可以对相关概念和算法有更加深入的理解。

前言

1978年3月，作为恢复高考后首届七七级大学生，我来到了清华大学计算机系学习，当时系里每个班级对应一个教研组，与我们班对应的是“人工智能与智能控制”教研组。记得刚入校不久，班主任老师带领我们参观实验室，观看了几个演示，包括语音识别、汉字识别、计算机控制等，对于首次见到计算机的我来说，留下了极其深刻的印象，尤其是语音识别的演示，至今不能忘怀。

在一个房间里，老师对着麦克风说： “芝麻芝麻快开灯”，一盏台灯就打开了。老师再说： “芝麻芝麻关上灯”，台灯就又被关闭了。同学们纷纷上去测试，感觉非常神奇。当时虽然还不知道什么是人工智能，但在我的心里埋下了一颗人工智能的种子。

1979年大二时，我们班开设了“人工智能导论”课，由林尧瑞老师主讲，教材是一本油印的小册子，记得内容有A算法、αβ剪枝算法、规划、用于定理证明的归结法等，这很可能是国内本科生最早的人工智能课。这是我第一次正式接触人工智能，后来又学习了LISP语言，记得期末作业我选做的是用αβ剪枝算法实现五子棋下棋程序，因受各种条件的限制，做得还非常初级，但如果不认真跟它下的话，还不一定能战胜它。

1984年我硕士毕业后留校工作，跟随林尧瑞老师从事专家系统方面的研究工作，同时辅助林尧瑞老师开始准备《人工智能导论》一书的编写工作。林尧瑞老师已经在我们系讲授多年的人工智能课程，积攒了很多资料，我主要是辅助整理，只参与书写了少部分内容。该书曾经在国内很多高校作为研究生教材使用，后来还被中国台湾一家出版社选中，出版了繁体版。直到现在，遇到一些年龄稍大的朋友还会提到当年是读这本书入门的。

2004年，我又与朱小燕老师合作编写了《人工智能》一书，该书也被很多高校当作本科或者研究生教材使用。

随着人工智能热潮的到来，应用也逐渐渗透到各行各业、各个领域，希望学习人工智能相关技术的人越来越多。市面上出现了很多非常出色的书籍，清华大学出版社多次联系我，希望出版两本书的第2版。我也多次提起笔来进行写作，但每次都半途而废，浪费了不少时间。主要原因是有关人工智能的书越来越多，如何写出新意，一直困扰着我。我也一直在思考如何写出一本通俗易懂、适合初学者的书，真正起到“导论”的作用。

大约在2020年，我在线上做了一次人工智能科普讲座，梳理了人工智能的发展历史，介绍了人工智能在不同的发展阶段所采用的主要方法等。这次科普讲座很受欢迎，会后组织者整理出讲座的文字版发布在网上，得到不少朋友的称赞。看到整理的讲座文字版，我突然受到启发，有了一些灵感。从1993年起我接替林尧瑞老师主讲“人工智能导论”课，至今有30年了，积攒了不少资料，很多讲课内容也有我自己的理解，何不就以讲课的方式写一本书呢？就如同讲课一样，课上怎么讲的就怎么写，让读者感到真的如同在听我讲课一样，是不是一种很好的方法？

有了这个想法之后，我就决定如同教师在给学生授课一样，用通俗易懂的语言，由浅入深地讲述人工智能的基本原理。

很快我就着手动笔写了起来。开始写得还算顺利，但是越写越觉得没有上课那种感觉。毕竟在上课的过程中，面对的是学生，和学生之间的交流有助于激发我的讲课热情，也能发现讲课中问题所在，重点解释一些不容易理解或者容易错误理解的问题。经过反复思考之后，我在书中设计了一位博学的艾博士（“艾”即AI）和一位聪明好学的小明同学，以师徒二人“一问一答”的形式，讲授课程内容。

艾博士： 深入浅出人工智能前言由于都是自己非常熟悉的内容，很快我就完成了第1篇“神经网络是如何实现的”，发给一些朋友征求意见后，收到了很多好的反馈意见和建议，其中不少朋友提到先发到微信公众号上，看看读者的反应，也算是一次在线测试。

在公众号以“跟我学AI”连载几次之后，收到不少反馈信息，普遍反映良好，尤其是受到多家出版社编辑老师的青睐，纷纷表示要出版这本书。编辑老师的肯定，给了我继续写下去的勇气，无论如何，这是一本与众不同的介绍人工智能的书。

本书共由7篇内容构成，除了第2篇部分内容需要第1篇作为基础知识外，其余各篇独立成章，可以单独阅读。各篇内容简介如下。

第0篇： 什么是人工智能。

主要通过回顾人工智能的简要发展历史，介绍不同时期人工智能研究的主要问题，了解实现人工智能的基本方法、当前面临的问题和发展方向。

第1篇： 神经网络是如何实现的。

结合实例引入神经元和神经网络的概念，讲解深度学习及其基本原理，以及主要实现方法。

第2篇： 计算机是如何学会下棋的。

从分析人下棋的基本过程入手，介绍计算机下棋的基本模型极小极大方法，为改进搜索效率提出的αβ剪枝算法，以及为解决局面评估问题提出的蒙特卡洛树搜索方法。介绍AlphaGo和AlphaGo Zero的基本实现原理。

第3篇： 计算机是如何找到最优路径的。

最优路径问题是人工智能的基本问题之一，首先介绍宽度优先搜索算法，进而通过不断引入新的信息，给出迪杰斯特拉算法、A算法、A算法等，以及利用深度优先搜索算法实现的迭代加深式搜索算法。

第4篇： 如何用随机算法求解组合优化问题。

首先介绍什么是组合优化问题以及求解这类问题的困难，在局部搜索算法的基础上，重点介绍模拟退火算法和遗传算法，以及如何用这两种随机算法求解组合优化问题。

第5篇： 统计机器学习方法是如何实现分类与聚类的。

分类与聚类是人工智能面临的重要问题，机器学习是求解这类问题的主要手段。本篇详细讲解常用的几种统计机器学习方法，如决策树、支持向量机、k均值聚类算法等。

第6篇： 专家系统是如何实现的。

专家系统在人工智能历史上起到过举足轻重的作用，本篇主要介绍专家系统的基本结构，讲解专家系统的基本实现方法。介绍非确定性推理方法、知识表示方法，以及实现对数据和知识进行层次管理的黑板模型。

本书的读者对象主要定位为以下3类人群。

（1） 对人工智能感兴趣的初学者。书中对很多基本概念、算法和实例做了非常详细的讲解，几乎每种算法都给出了具体实例，对初学者掌握这些概念和算法非常友好，容易理解和掌握。同时本书还配有详细的讲解视频，供感兴趣的读者免费使用。

（2） 正在或者准备讲授人工智能课程的教师。“跟我学AI”在公众号连载过程中，收到不少高校老师的热情反馈，对一些例子和讲解方法深表赞同，认为对以后讲授相关内容的课程很有启发和帮助，不少朋友希望我整理成书，出版发行。

（3） 从事人工智能开发的工程人员。这个人群大多对人工智能比较熟悉，精通各种算法，但在部分工程人员中也存在“只知其然，不知其所以然”的问题。从公众号连载过程中收到的反馈信息也能体现出这一点，不少朋友表示看了“跟我学AI”公众号以后，加深了对概念和算法的深入理解，了解了算法实现背后所蕴含的原理和物理意义，从“知其然”向“知其所以然”前进了一步，有“原来是这样啊”茅塞顿开的感觉。

本书在微信公众号“跟我学AI”和B站（在B站搜“马少平”）还配有详细讲解视频，可以通过扫描下面的二维码获取全部的讲解PPT和讲解视频（视频内容逐步更新中）。

PPT和讲解视频

在本书写作过程中，大型语言模型（LLM）研究迅猛，特别是ChatGPT的问世，给人工智能的发展带来了新的活力。ChatGPT在诸多方面均表现优异，尤其是在自然语言理解、语言生成能力以及对话上下文处理方面，更是上了一个新的台阶。本书虽然没有介绍这方面的相关内容，但是通过本书的学习，可以为进一步学习人工智能、了解人工智能的最新发展，打下良好基础。

下面引用的内容是ChatGPT根据我给的提示信息，并经几次“调教”之后自动生成的，我以此作为前言的结束语，既是对人工智能的一种敬意，也是我此时的真情表达。“2023年春节期间，我很高兴地完成了本书的写作，赶在开学前将其交给了出版社。虽然我知道自己的水平有限，但我心中充满了希望。我深知，没有读者朋友们的支持和关注，我是无法不断进步的。

因此，我诚挚地请求各位读者朋友们不吝赐教，指出本书的错误和不妥之处。我将努力不懈，不断完善，使本书更加完美。

在此，我向读者朋友们表示最诚挚的感谢，感谢您一直以来的关注和支持。我希望本书能够带给您更多的收获和欢乐，并期待您的宝贵意见。”最后，让我们跟随艾博士一起进入人工智能世界，开启奇妙的人工智能之旅吧。

谢谢！

马少平2023年9月10日

目录

第0篇什么是人工智能1

0.1人工智能的诞生1

0.2人工智能的4个发展时代4

0.2.1初期时代4

0.2.2知识时代6

0.2.3特征时代8

0.2.4数据时代11

0.3什么是人工智能16

0.4图灵测试与中文屋子问题19

0.4.1图灵测试19

0.4.2中文屋子问题21

0.5第三代人工智能23

0.6总结27

第1篇神经网络是如何实现的29

1.1从数字识别谈起30

1.2神经元与神经网络35

1.3神经网络是如何训练的39

1.4卷积神经网络48

1.5梯度消失问题59

1.6过拟合问题69

1.7词向量74

1.7.1词的向量表示74

1.7.2神经网络语言模型76

1.7.3word2vec模型82

1.7.4词向量应用举例85

1.8循环神经网络88

1.9长短期记忆网络96

1.10深度学习框架104

1.11总结104艾博士： 深入浅出人工智能目录第2篇计算机是如何学会下棋的106

2.1能穷举吗？107

2.2极小极大模型110

2.3αβ剪枝算法112

2.4蒙特卡洛树搜索115

2.5AlphaGo是如何下棋的124

2.6围棋中的深度强化学习方法132

2.6.1基于策略梯度的强化学习134

2.6.2基于价值评估的强化学习135

2.6.3基于演员评价方法的强化学习137

2.7AlphaGo Zero是如何自学成才的140

2.8总结147

第3篇计算机是如何找到最优路径的149

3.1路径搜索问题150

3.2宽度优先搜索算法152

3.3迪杰斯特拉算法155

3.4启发式搜索157

3.4.1A算法157

3.4.2A算法164

3.4.3定义h函数的一般原则165

3.4.4h函数的评价168

3.4.5A算法存在的不足170

3.4.6单调的h函数172

3.4.7改进的A算法175

3.5深度优先搜索算法181

3.6迭代加深式搜索算法185

3.6.1迭代加深式宽度优先搜索算法186

3.6.2迭代加深式A算法188

3.7动态规划与Viterbi算法189

3.8拼音输入法问题191

3.9总结197

第4篇如何用随机算法求解组合优化问题200

4.1组合优化问题201

4.2局部搜索算法203

4.3局部搜索算法存在的问题211

4.4退火过程及分析216

4.4.1退火现象216

4.4.2退火过程分析217

4.5模拟退火算法224

4.6模拟退火算法的参数选择229

4.6.1起始温度t0的选取230

4.6.2温度的下降方法232

4.6.3每一温度下的停止准则234

4.6.4算法的终止原则235

4.7模拟退火算法应用举例238

4.8遗传算法243

4.9遗传算法应用举例253

4.10遗传算法的实现问题258

4.10.1编码问题258

4.10.2二进制编码的交叉操作规则262

4.10.3整数编码的交叉操作规则264

4.10.4变异规则268

4.10.5适应函数270

4.10.6遗传算法的停止准则274

4.11用遗传算法求解旅行商问题276

4.12性能评价问题277

4.13模拟退火算法与遗传算法的对比279

4.14总结281

第5篇统计机器学习方法是如何实现分类与聚类的283

5.1统计学习方法284

5.2朴素贝叶斯方法289

5.3决策树297

5.3.1决策树算法——ID3算法299

5.3.2决策树算法——C4.5算法313

5.3.3过拟合问题与剪枝320

5.3.4随机森林算法327

5.4k近邻方法330

5.5支持向量机333

5.5.1什么是支持向量机333

5.5.2线性可分支持向量机339

5.5.3线性支持向量机352

5.5.4非线性支持向量机356

5.5.5核函数与核方法359

5.5.6支持向量机用于多分类问题364

5.6k均值聚类算法371

5.7层次聚类算法379

5.8DBSCAN聚类算法381

5.9验证与测试问题384

5.10特征抽取问题387

5.11总结392

第6篇专家系统是如何实现的395

6.1什么是专家系统396

6.2推理方法399

6.3一个简单的专家系统403

6.4非确定性推理409

6.4.1事实的表示410

6.4.2规则的表示410

6.4.3逻辑运算411

6.4.4规则运算413

6.4.5规则合成415

6.4.6置信度方法的理论根据420

6.5黑板模型423

6.6知识的结构化表示425

6.6.1语义网络425

6.6.2框架429

6.7专家系统工具433

6.8专家系统的应用436

6.9专家系统的局限性437

6.10总结438

附录ABP算法440

A.1求导数的链式法则440

A.2符号约定441

A.3对于输出层的神经元442

A.4对于隐含层的神经元444

A.5BP算法——随机梯度下降版446

附录B序列最小最优化（SMO）算法448

B.1SMO算法的基本思想448

B.2SMO算法的详细计算过程454