AI+网络安全――智网融合空间体系建设指南

本书首先介绍人工智能、网络安全发展历程，从政策、战略和规划、技术研发、产业应用方面分析其国内外发展现状，研究人工智能的概念、内涵及与创新技术的融合；然后给出智能安全的总体框架、架构、标准现状，以及人工智能技术、可信人工智能技术、网络安全技术和智能网络安全技术体系；接下来，分别以网络攻击和网络防御为维度，从静态、动态、新型三个方面介绍传统网络攻击和网络防御技术，从物理层、接入层、系统层、网络层、应用层、管理层六个层面详尽介绍智能网络攻击和网络防御技术，系统总结和归纳主流人工智能网络安全产品，不仅论述了人工智能在网络空间中的应用，也详尽剖析了其在关键基础设施领域的安全应用；最后分析了人工智能的局限性、安全性等，提出人工智能的哲学思考与安全治理。

申志伟

中国电子信息产业集团有限公司第六研究所规划科技处副处长（主持工作），工学博士，正高级工程师，高级经济师，重庆邮电大学、燕山大学硕士研究生企业导师，多次获得省部级奖项；曾担任联通云公司的中心主任、政务云团队负责人，主要研究方向为云计算、网络安全、人工智能、大数据应用、移动互联网产品研发等。

张尼

中国电子信息产业集团有限公司第六研究所所长，博士后，正高级工程师，多次获得省部级奖励，入选2014年工信部“软件与集成电路人才”计划，获2017年度JUNGONG行业信息安全工作先进个人；同时担任中国工业互联网联盟副组长、中国电子信息产业集团有限公司科技委专家。

王翔

中国电子信息产业集团有限公司第六研究所规划科技处项目主管，工学博士，清华大学博士后，主要研究方向为新一代信息通信技术、工业物联网、工控系统安全及防护等。

朱肖曼

中国电子信息产业集团有限公司第六研究所规划科技处处长助理，工学硕士，高级工程师，主要研究方向为网络安全、通信网络等，获省部级奖项7项。

于运涛

中国电子信息产业集团有限公司第六研究所工控安全所工控安全系统研究室主任，工学硕士，高级工程师，主要研究方向为工控系统安全、国家关键信息基础设施领域轨道交通和电力网络安全防护等。

张弛

中国电子信息产业集团有限公司第六研究所工控安全所工控安全系统研究室研发工程师，工学博士，主要研究方向为大规模并行机器学习和深度学习算法、工控系统安全等。

张大松

中国电子信息产业集团有限公司第六研究所工控安全所工控安全系统研究室主任助理，工学博士，高级工程师，主要研究方向为工控系统安全、物联网安全、边缘计算网关等。

郭烁

中国电子信息产业集团有限公司第六研究所规划科技处市场主管。

李玲

中国电子信息产业集团有限公司第六研究所工控安全所工控安全系统研究室主任助理，工学硕士，工程师。

中国电子信息产业集团有限公司第六研究所组织撰写，

强化体系，研究现状，构建智能安全架构；

联防联控，深入剖析三维六层智能攻防全景技术；

实战价值，详解行业应用，思考人工智能局限性和安全性；

是一本人工智能与网络安全的智网融合空间体系建设指南；

主要面向人工智能、网络安全、人工智能安全等领域的从业者，

也适合高等院校人工智能、网络安全、电子、通信专业的师生阅读和参考。

网络空间是继陆、海、空、天之后的第五维空间。DDoS、APT等方式的网络安全事件、数据泄露日益增多，黑客、有组织犯罪团体等可谓无处不在，网络安全问题日益突出。西方国家在20世纪90年代就提出了网络战的概念，网络空间安全技术正向更大覆盖面、更高速率、更广应用的方向发展，网络空间安全的战略地位日益突出，成为支撑国家安全的重要基础之一。

人工智能从本质上看是一种理念，指的是通过加载智能算法、程序、模型的机器实体来模拟、延伸和扩展人类的五官和肢体能力，打破人类在生理、心理等方面的局限，在一些重、难、险、害等环境中替代或辅助人类工作。从1942年提出的“机器人三定律”开始，经过机器人、模式识别、专家系统等发展阶段，尤其是2012年以来，人工智能在海量数据的加持下，模型、算法、算力的理论、技术等得到了快速发展和突破，数据分析、知识提取、智能决策等优势明显，已经成为当前最热门、最前沿的技术。2020—2022年，人工智能连续3年出现在政府工作报告中，人工智能在国内快速发展，未来与各行业的紧密融合和应用落地将成为发展常态。在网络空间领域，越来越多的攻击者（攻击端）利用人工智能技术有效躲避、绕过防御端的检测发动智能攻击，防御端也运用人工智能技术预测、防范、应对各类动态多变、复杂交织的网络安全风险和攻击，攻击端和防御端形成了一种长期的智能、动态、实时的博弈，因此将人工智能技术应用到网络安全领域是未来网络空间安全发展的重要方向。

本书面向国家重大战略需求，全面梳理人工智能网络安全技术特点，提出面向未来的智能网络安全体系，从网络攻击和网络防御两个维度，分别研究了人工智能在网络空间中的物理层、接入层、系统层、网络层、应用层、管理层的具体安全技术，基于这些智能技术，对当前的主流人工智能网络安全产品进行了系统总结和归纳，不仅论述了人工智能在网络空间中的攻防应用，也详尽剖析了其在关键基础设施领域中的安全应用，且在分析人工智能的风险、局限性等的基础上，提出了对人工智能的哲学思考与安全治理路径。全书分为6篇，共13章。

第1篇（第1、2章）为导论篇。本篇围绕人工智能和网络空间安全，重点介绍两者的历史演进过程，国内外相关政策、市场、技术、产业等的发展现状，同时解析相关概念和内涵，分析人工智能与创新技术的融合情况。

第2篇（第3、4章）为体系篇。本篇从智能安全框架入手，梳理国内外智能安全标准，结合现有研究给出智能网络安全的架构和技术体系。

第3篇（第5、6章）为攻击篇。本篇首先以攻击者的视角研究传统网络攻击技术的工作机理和优劣势，进而构建物理层、接入层、系统层、网络层、应用层、管理层的智能网络攻击技术体系，详尽论述所涉及的技术实现原理；最后给出对抗人工智能的攻击方法，为防御端更好地防御奠定基础，做到知己知彼，防患于未然。

第4篇（第7、8章）为防御篇。本篇的结构与攻击篇类似，在掌握现有传统和智能攻击技术的基础上，首先研究传统网络防御技术的工作机理和优劣势；进而构建物理层、接入层、系统层、网络层、应用层、管理层的智能网络防御技术体系，详尽论述所涉及的技术实现原理；最后给出对抗人工智能的防御方法，虽然防御总是滞后于攻击，但也可借助人工智能实现主动、全局、系统化的防御。

第5篇（第9~11章）为应用篇。本篇构建人工智能基础产品和人工智能网络安全产品体系，对人工智能在网络空间中的攻击和防御应用进行分析，结合具体场景，全面研究人工智能在政务、能源、交通、金融、医疗、教育等关键基础设施领域的安全应用。

第6篇（第12、13章）为思考篇。本篇解读人工智能带来的各种问题，主要包括当前网络空间存在的安全风险挑战、人工智能的局限性、人工智能网络攻击和网络防御的局限性、人工智能本身的安全性和衍生安全性，给出一些对人工智能的哲学思考和对人工智能安全治理路径的探讨。

全书由申志伟进行顶层设计、模式编排、系统论证和组织编写，负责第2篇、第6篇、其他篇部分内容的编写，以及全书的调整、优化、完善工作；张尼负责总体指导；王翔负责第4篇的主体内容编写；朱肖曼负责第1篇、第5篇的主体内容编写，于运涛提供了这部分的相关素材；张弛负责第3篇的主体内容编写，张大松提供了这部分的相关素材；郭烁、李玲负责校对工作。

本书从构思到出版历时3年，可以说是全体作者历经波折、不懈坚持、团结一致的结果。2019年10月，我们在研究中发现人工智能和网络安全虽然都属于快速发展的技术领域，已有大量的论文、专利、标准和报告等，但基本放在具体的应用场景和研究点上，缺乏将两者相结合的全面系统研究，当时市场上也没有这方面的图书，因此初步构思了本书的总体框架，并着手编写了第1篇的部分内容，计划2020年完成出版。2020年上半年，编写团队成员忙于各自的项目工程，本书的编写几乎处于停滞状态，同时人工智能与网络安全相结合内容的图书陆续出版，为了避免重复，我们终止了本书的出版计划。但2021年，在电子工业出版社首席策划编辑李树林的指导下，我们认真阅读了同类图书，并重新思考、设计了本书架构，在和出版社达成共识后，组织了全新的编写团队，克服工作和编写中的重重困难，充分利用业余和节假时间，在2022年3月底顺利完成了初稿，之后又进行不断完善，得以正式出版。

非常感谢邬贺铨院士在为《卫星互联网——构建天地一体化网络新时代》作序之后，又在百忙之中拨冗为本书作序，同时给出非常中肯又极具价值的指导意见，这对于我们的努力是极大的鼓励与肯定，也为我们指出了未来进步的方向。

本书在编写过程中，得到了电子六所副所长丰大军博士、人工智能安全专家淮晓永博士给予的指导和宝贵建议，在此表示由衷的感谢。除此之外，我们还查阅和参考了大量相关政策、现状、应用等的报道，以及相关研究者的阶段性想法和成果、技术性文章等，在这里对相关作者一并表示感谢。最后，再次感谢电子工业出版社首席策划编辑李树林，没有他的坚持，本书就不会与广大读者见面；同时，在他的积极申报下，《卫星互联网——构建天地一体化网络新时代》荣获“‘十四五’时期国家重点出版物出版专项规划项目”。

本书是我们对人工智能应用于网络安全领域的研究、实践和思考，部分技术是受到一些研究者的启发后加工提炼而成的，并没有进行具体的算法推演，这也为我们未来的工作指明了方向，其他部分的分析、归纳、总结也难免有欠周全之处，敬请读者谅解，并给予宝贵意见。

第1篇 导论篇
第1章 人工智能导论 2
1．1 人工智能发展历程 2
1．1．1 国外人工智能发展现状 5
1．1．2 我国人工智能发展现状 23
1．2 人工智能概念与内涵 28
1．2．1 人工智能概念 28
1．2．2 人工智能内涵 30
1．3 人工智能与创新技术融合 30
1．3．1 人工智能与5G 31
1．3．2 人工智能与大数据 32
1．3．3 人工智能与云计算 32
1．3．4 人工智能与物联网 33
1．3．5 人工智能与区块链 33
1．3．6 人工智能与量子计算 34
1．4 本章小结 35
本章参考文献 35
第2章 网络空间安全导论 36
2．1 网络空间安全发展历程 36
2．2 网络空间安全发展现状 37
2．2．1 国外网络空间安全发展现状 37
2．2．2 我国网络空间安全发展现状 43
2．2．3 网络空间安全发展的趋势与建议 52
2．3 本章小结 55
本章参考文献 55
第2篇 体系篇
第3章 智能安全规划体系 58
3．1 智能安全框架 58
3．1．1 智能安全分级能力 58
3．1．2 智能驱动安全框架 61
3．1．3 智能安全人类框架 62
3．2 智能安全架构 65
3．2．1 智能系统模式 65
3．2．2 智能安全检测模式 66
3．2．3 智能安全四象限 67
3．3 智能安全标准 68
3．3．1 国外智能安全标准 68
3．3．2 我国智能安全标准 69
3．4 本章小结 71
本章参考文献 72
第4章 智能安全技术体系 73
4．1 人工智能技术体系 73
4．1．1 机器学习 75
4．1．2 神经网络 76
4．1．3 深度学习 78
4．1．4 生成对抗网络 81
4．1．5 胶囊网络 82
4．1．6 迁移学习 84
4．1．7 强化学习 86
4．1．8 联邦学习 87
4．1．9 知识图谱 89
4．2 可信人工智能技术 91
4．2．1 人工智能模型稳定性技术 91
4．2．2 人工智能可解释性增强技术 92
4．2．3 人工智能隐私保护技术 93
4．3 网络安全技术体系 93
4．3．1 物理层网络安全技术 95
4．3．2 接入层网络安全技术 95
4．3．3 系统层网络安全技术 96
4．3．4 网络层网络安全技术 96
4．3．5 应用层网络安全技术 97
4．3．6 管理层网络安全技术 98
4．4 智能网络安全技术体系 98
4．5 本章小结 99
本章参考文献 100
第3篇 攻击篇
第5章 传统网络攻击技术 102
5．1 静态网络攻击技术 102
5．1．1 口令破解技术 102
5．1．2 利用漏洞攻击技术 105
5．1．3 网络劫持技术 108
5．1．4 SQL注射式攻击技术 115
5．1．5 木马攻击技术 116
5．1．6 物理摆渡攻击技术 117
5．2 动态网络攻击技术 117
5．2．1 边信道攻击技术 118
5．2．2 网络监听技术 121
5．2．3 网络逃逸技术 124
5．2．4 后门攻击技术 125
5．2．5 鱼叉式网络钓鱼攻击技术 126
5．2．6 水坑攻击技术 127
5．3 新型网络攻击技术 128
5．3．1 分布式拒绝服务攻击技术 128
5．3．2 区块链僵尸网络技术 129
5．3．3 APT攻击技术 131
5．3．4 深度渗透技术 133
5．4 本章小结 134
本章参考文献 134
第6章 智能网络攻击技术 137
6．1 智能网络攻击技术分析 137
6．1．1 智能网络攻击技术特点 137
6．1．2 智能网络攻击方式 139
6．1．3 智能网络攻击技术体系 142
6．2 物理层智能攻击技术 143
6．2．1 智能分布式拒绝攻击技术 143
6．2．2 智能PUF攻击技术 144
6．2．3 智能边信道攻击技术 145
6．3 接入层智能攻击技术 147
6．3．1 智能加密节点俘获攻击技术 147
6．3．2 智能MAC/CAM攻击技术 148
6．3．3 智能隧道攻击技术 149
6．3．4 智能设备信息欺骗攻击技术 149
6．4 系统层智能攻击技术 150
6．4．1 智能软件脆弱性预测技术 150
6．4．2 易受攻击代码模式识别技术 151
6．4．3 智能漏洞特征提取方法 152
6．5 网络层智能攻击技术 152
6．5．1 智能网络逃逸技术 152
6．5．2 生成对抗恶意软件技术 153
6．5．3 自主网络攻击技术 154
6．5．4 智能僵尸网络技术 154
6．5．5 智能蜂巢网络技术 155
6．5．6 智能APT攻击技术 156
6．6 应用层智能攻击技术 156
6．6．1 智能鱼叉式钓鱼攻击技术 157
6．6．2 智能密码破解技术 158
6．6．3 智能验证码破解技术 159
6．7 管理层智能攻击技术 160
6．7．1 口令智能破解技术 160
6．7．2 智能渗透测试技术 161
6．7．3 页端DDoS攻击技术 162
6．8 对抗人工智能的攻击方法 163
6．8．1 对抗样本攻击 163
6．8．2 新型木马攻击 174
6．8．3 新型后门攻击 176
6．9 本章小结 176
本章参考文献 177
第4篇 防御篇
第7章 传统网络防御技术 182
7．1 静态网络防御技术 182
7．1．1 认证技术 182
7．1．2 漏洞扫描检测技术 188
7．1．3 防火墙技术 191
7．1．4 入侵检测技术 199
7．1．5 加密技术 199
7．2 动态网络防御技术 203
7．2．1 动态网络防御系统架构 203
7．2．2 动态网络防御技术体系 204
7．2．3 典型动态网络防御技术――蜜罐 220
7．2．4 典型动态网络防御技术――入侵容忍 231
7．3 新型网络防御技术 241
7．3．1 可信计算技术 241
7．3．2 区块链技术 250
7．3．3 纵深防御技术 253
7．4 本章小结 258
本章参考文献 259
第8章 智能网络防御技术 261
8．1 智能网络防御技术分析 261
8．1．1 智能网络防御技术特点 261
8．1．2 智能网络防御方式 263
8．1．3 智能网络防御技术体系 265
8．2 物理层智能防御技术 266
8．2．1 智能选择计算机系统环境 266
8．2．2 智能选择机房场地环境 267
8．2．3 机房安全智能防护 268
8．3 接入层智能防御技术 269
8．3．1 智能认证技术 269
8．3．2 智能加密技术 272
8．3．3 智能防火墙技术 273
8．3．4 攻击逃逸防御技术 277
8．3．5 典型接入层智能防御技术――零信任 280
8．4 系统层智能防御技术 283
8．4．1 智能硬件木马检测技术 284
8．4．2 智能恶意代码分析技术 285
8．4．3 智能漏洞分析与挖掘技术 286
8．4．4 人工免疫病毒检测技术 288
8．4．5 典型系统层智能防御技术――智能蜜罐 289
8．5 网络层智能防御技术 290
8．5．1 智能入侵检测技术 291
8．5．2 智能恶意域名检测技术 296
8．5．3 智能僵尸网络检测技术 299
8．5．4 智能恶意加密流量识别技术 300
8．5．5 智能APT攻击检测技术 301
8．5．6 智能后门攻击防御技术 301
8．5．7 人工免疫入侵检测技术 304
8．5．8 典型网络层智能防御技术――拟态防御 305
8．6 应用层智能防御技术 309
8．6．1 智能未知应用风险发现技术 310
8．6．2 智能账号安全检测技术 310
8．6．3 智能风险电子邮件识别技术 312
8．7 管理层智能防御技术 315
8．7．1 智能网络安全风险评估技术 316
8．7．2 智能网络安全审计技术 317
8．7．3 专家数据库系统 318
8．7．4 典型管理层智能防御技术――智能态势感知 319
8．7．5 典型管理层智能防御技术――人工免疫 321
8．8 对抗人工智能的防御方法 322
8．8．1 干扰攻击防御方法 322
8．8．2 生成对抗防御方法 323
8．8．3 智能靶场演练方法 324
8．9 本章小结 325
本章参考文献 325
第5篇 应用篇
第9章 智能网络安全产品体系 330
9．1 人工智能基础产品 330
9．1．1 人工智能硬件产品 331
9．1．2 人工智能软件产品 338
9．2 人工智能网络安全产品 347
9．2．1 智能防御类安全产品 348
9．2．2 智能生产运维安全平台 353
9．2．3 智能大数据安全平台 354
9．3 本章小结 354
本章参考文献 355
第10章 人工智能在网络空间中的应用 356
10．1 人工智能在网络攻击中的应用 356
10．1．1 侦查跟踪场景中的应用 356
10．1．2 武器构建场景中的应用 356
10．1．3 载荷投递场景中的应用 357
10．1．4 漏洞利用场景中的应用 357
10．1．5 安装植入场景中的应用 358
10．1．6 命令与控制场景中的应用 358
10．1．7 目标达成场景中的应用 358
10．2 人工智能在网络防御中的应用 359
10．2．1 网络威胁检测场景中的应用 359
10．2．2 预防恶意软件场景中的应用 359
10．2．3 网络安全态势感知场景中的应用 360
10．2．4 漏洞挖掘场景中的应用 360
10．2．5 自身安全评估场景中的应用 361
10．2．6 工业互联网场景中的应用 361
10．3 本章小结 361
本章参考文献 362
第11章 人工智能在各领域的安全应用 363
11．1 人工智能在政务领域的安全应用 363
11．1．1 在政务平台的安全应用 363
11．1．2 在公共领域的安全应用 366
11．2 人工智能在能源领域的安全应用 370
11．2．1 在电力行业的安全应用 370
11．2．2 在煤炭行业的安全应用 374
11．2．3 在核电行业的安全应用 375
11．2．4 在油气行业的安全应用 377
11．3 人工智能在交通领域的安全应用 379
11．3．1 路面交通场景中的安全应用 379
11．3．2 海上运输场景中的安全应用 380
11．3．3 航空航天场景中的安全应用 381
11．4 人工智能在金融领域的安全应用 381
11．4．1 金融反欺诈场景中的安全应用 381
11．4．2 人员信用评估场景中的安全应用 382
11．4．3 支付清算场景中的安全应用 382
11．5 人工智能在医疗领域的安全应用 382
11．5．1 智能诊疗场景中的安全应用 382
11．5．2 医学影像智能识别场景中的安全应用 383
11．5．3 医疗机器人场景中的安全应用 383
11．5．4 智能药物研发场景中的安全应用 383
11．5．5 智能健康管理场景中的安全应用 384
11．6 人工智能在教育领域的安全应用 384
11．6．1 教育内容安全审查 384
11．6．2 教育大数据安全 385
11．6．3 校园安防 385
11．7 本章小结 385
本章参考文献 386
第6篇 思考篇
第12章 人工智能的局限性与安全性 388
12．1 人工智能的局限性 388
12．1．1 网络空间安全风险挑战 388
12．1．2 人工智能技术的局限性 389
12．1．3 人工智能网络攻击的局限性 393
12．1．4 人工智能网络防御的局限性 396
12．2 人工智能的安全性 399
12．2．1 人工智能本身的安全性 399
12．2．2 人工智能的衍生安全性 405
12．3 本章小结 409
本章参考文献 410
第13章 人工智能的哲学思考与安全治理路径 413
13．1 人工智能的哲学思考 413
13．1．1 人工智能哲学概念解析 413
13．1．2 人工智能对人类社会的影响 414
13．1．3 人工智能与心灵 417
13．1．4 人脑结构与意识形态 418
13．1．5 理性主义与经验主义 419
13．1．6 自然进化与人工进化 420
13．1．7 人工智能的哲学限度 421
13．2 人工智能安全治理路径 422
13．2．1 全层次治理模式 422
13．2．2 多手段治理方式 423
13．3 本章小结 425
本章参考文献 425