运维前线：一线运维专家的运维方法、技巧与实践

适读人群 ：运维工程师、架构师、开发者等

14位来自腾讯、京东、YY、盛大游戏、UC、西山居、猎豹移动的资深运维分享他们在自动化运维、系统运维、云与虚拟化、Web运维、游戏运维、数据库运维技巧总结，七牛云联合出品

　　为什么要写这本书《运维前线：一线运维专家的运维方法、技巧与实践》（以下简称《运维前线》）是前线系列的一个子集，前线系列图书的出版理念是邀请多位业界专家，总结所在行业的最新理念或深度实践经验。前线系列图书不同于市面上的很多图书，这类书并不系统，有的只是一线专家的实战经验，人们常称之为“干货”。一篇文章、一家公司、一个案例、一个场景，独立成篇，在满足碎片化阅读的同时，也能让读者进行横向比较和深入思考。本系列图书不强调大而全，追求的是每篇文章都是精品，希望能给读者带来深度的启发和收获。
　　按照这个理念，之前著名产品经理兰军（笔名Blues）策划的《产品前线》，出版之后大获成功，随之而来的《运维前线》令我感觉到压力巨大。《运维前线》的出版犹如十月怀胎，中间充满波折，好几次我都以为要半途而废了，最后终于得以出版，在此要特别感谢机械工业出版社华章公司著名出版人杨福川，是他的坚持和鼓励让我总能在迷茫中看到希望。我和福川有共同的理念，希望把《运维前线》做成精品，如果有哪点不符合要求，那么我们宁愿耗时长一些，多打磨打磨，很庆幸能与福川一起合作。
　　本书共有14位作者，包含了在腾讯、YY语音、UC、京东、盛大游戏、金山西山居、猎豹移动、广发银行、优维科技等多家公司工作的实践经验，基本覆盖了互联网和传统行业运维的各个领域，估计这是迄今为止第一本由这么多资深运维专家联合写成的图书，也是第一本分享了众多一线运维专家亲身实践的图书。本书的出版也充分体现了互联网开放合作的精神。
　　看到本书的目录时，我激动不已，即使书中的内容我已经看了好多遍，但是在回顾目录的时候，我依然感到这是一本非常有吸引力的书，是一本每名运维工程师都应该案头常备的书！
　　本书特色当前IT领域的概念层出不穷，云计算、物联网、移动互联网、大数据、人工智能、VR，所有的这一切都基于IT系统，IT系统正在向规模更大、更复杂、更高级的方向演进，一切IT资源都掌握在运维手里，通过运维来操作。这个时代对运维的要求越来越高，运维如果稍有不慎，就会造成重大的损失，所以随着IT系统的发展，运维的重要性也越来越高。
　　根据量子力学理论，世界由基本粒子组成，因此世界是不连续的，这个理论在运维知识体系的建立上同样适用。仔细回想一下自己运维体系的建立，就是逐个攻克和掌握知识点，再进一步通过实践不断加深的过程。《运维前线》也是这样，其中的每一篇文章都能够协助读者更快地掌握一个或多个知识点，相信通过运维前线系列的逐步出版，最终能够覆盖更多的运维知识点，为读者带来更多的实践经验和理念。
　　作为运维前线系列的第一本书，本书覆盖了运维自动化、系统运维、云及虚拟化、Web运维、游戏运维、DBA运维等6个方面14个知识点，都是各位作者总结自己多年实践经验的干货，每一篇文章都很精彩，都值得读者仔细品味。
　　本书作者本书第1章“自动化运维之深度解码”，来自订阅号“互联网运维杂谈”的作者、优维科技创始人王津银，人称“老王”。我在多个场合听过“老王”的分享，有40分钟的，也有长达3个小时的，令我惊讶的是，“老王”每次总能带来新的东西。这篇“自动化运维之深度解码”也是如此，凝结了老王许多最新的见解，值得深读。
　　胥峰是我在盛大游戏的前同事，从胥峰身上我学到了不少知识，比如解决问题的思路和方法，有时候碰到运维难题，也许换一个角度就能迎刃而解。
　　刘宇、尹会生、陈立军是我多年的同事。刘宇、会生已经出版了多本运维图书，他们都是非常资深的运维专家。刘宇无论演讲还是文章都逻辑清晰，丝丝入扣。会生和立军分享的都是我亲眼所见的、在工作中碰到的难题及解决方法。
　　张观石是欢聚时代（YY）互娱事业部业务运维负责人，有多年的将PHP运用到日常运维中的经验。观石将PHP用到了极致，即使不懂PHP，也可以通过本书一窥观石在运维方面的丰富经验。
　　马亮有多年的游戏运维经验，目前在腾讯云专注做游戏云的架构设计，对游戏运维有深刻的理解。
　　本书的作者还有冉宏元（老男孩）、余洪春（抚琴煮酒）、吴传玉、彭华盛、蒋迪、赵旻、赵海军。虽然我与他们未曾谋面，但是彼此都是熟悉的网友，他们的文章我都曾仔细拜读并多次请教过，其中的运维思想让我深深折服，非常期待能有机会向他们当面请教。
　　读者对象本书面向所有的运维工程师，无论是资深运维，还是刚入行的运维，相信都能从本书中获益。本书的读者对象包括如下几类：
　　系统运维工程师安全工程师数据库运维工程师业务运维工程师网络运维工程师运维系统开发工程师及架构师云计算/虚拟化运维工程师其他对运维感兴趣的读者勘误和支持由于作者的水平有限，编写时间比较仓促，书中难免会出现一些错误或不准确的地方，恳请读者批评指正。如果您有更多宝贵的意见，欢迎关注我的订阅号“云技术实践”，然后在后台将您的宝贵意见发送给我。本书的勘误也会通过订阅号进行发布，关注订阅号请扫描下面的二维码：
　　“运维前线”是一个系列，欢迎在平时工作中积累了实战经验的广大运维工程师继续参与“运维前线”的写作，带来更多的干货分享！
　　期待能够得到你们的真挚反馈，在运维之路上互勉共进。
　　致谢从开始构思到《运维前线》的出版，本书的创作过程犹如十月怀胎，期间也获得了无数的支持与肯定。借此机会，向所有为此奉献力量的人表示深深的感谢。
　　感谢参与本书写作的14位行业专家，他们在百忙之中伏案写作，将自己的经验共享给广大读者。能够和你们合作，我深感荣幸，经过将近一年时间的沟通和交流，你们的专业和执着深深地打动了我，同时也让我学到了不少东西。
　　感谢机械工业出版社华章公司的首席策划杨福川，编辑高婧雅、孙海亮。在近一年的时间中，你们的敬业精神不断地鼓舞着我前进，你们的鼓励、帮助和坚持引导了本书的完成。
　　这里，我还要特别感谢七牛云。七牛云是我见过的最具技术气质的云服务企业，肩负“帮助开发者缩短从想法到产品的距离”的使命，立志打造以数据为核心的场景化PaaS服务。七牛云主张技术共享并热衷于技术的传播，发起架构师实践日，推出各类创业扶持计划，这些都是七牛云正在做的事。
　　特别致谢本书在成书过程中，得到了一批热心志愿者的协助，他们是陈家豪、曹学朋、邓荣兴、刘海文、李斯朗、韩海林，尤其刘海文做了大量的义务工作，在此特别感谢！
　　

肖　力

　　推　荐　序

　　2011年，与吕桂华一起创立七牛云，现已服务50多万家企业。
　　非常荣幸能受邀为本书作序。
　　2011年我从盛大离职，创办了七牛云。
　　在移动互联网时代，初创企业和巨头们之间的力量相差悬殊，这滋生了创业扶持产业的出现与兴起。所谓创业扶持产业，从技术革新上看就是“云”，云服务让所有的初创企业有了和巨头们一样的基础设施。
　　很快，云服务的时代就在预期中到来了。很多人开始担心，自己的业务知识能否胜任“新运维”的需求。其实我想告诉大家，互联网中各类技术的革新总是很快的，无论你做哪一类工作，当跟不上技术发展的时候，就会面临被淘汰的危险。传统运维的革新是一个必然的过程，如果你对运维知识的了解一直停留在原地，那你离悬崖就不远了。
　　云服务下的运维相较于传统服务器的模式，优势已相当明显。企业无需花费巨额的资金来购买新的服务器和托管机房的机位，就能够低成本、低风险地实现新增业务。同时，运维人员不再只能利用传统的网管手段来定位系统故障，他们可以通过云计算管理平台以及虚拟设备管理平台进行分析。
　　此外，云服务的蓬勃发展也令互联网产业发生了巨变，互联网产业整体的蛋糕做大了，这使得其对运维的总体需求呈现上升的趋势。这对运维人员是一个非常好的机会，只要知识与能力满足了岗位需求，你的待遇和发展就能上一个台阶。
　　作为云服务行业以及创业公司的代表，七牛云深谙创业的艰辛。我们反复说，七牛云的目标是打造一个场景化的PaaS（Platform-as-a-Service，平台即服务）平台，帮助开发者缩短从想法到产品的距离。我们打造了很多子产品，包括大数据、通用计算、云计算等。从我们发布产品的服务类型来看，第一类是对象存储服务，第二类是融合CDN服务，第三类是数据处理服务，第四类是直播云以及实时流网络LiveNet服务。
　　《运维前线》这本书集合14位资深运维专家的实践经验，覆盖了互联网和传统行业运维的各个领域。其中所述的运维方法、技巧与实践，都和七牛云息息相关，这也正是我为本书作序的原因。
　　这里我举两个例子：
　　在本书第3章中讲到，动静分离的架构是基于Web开发的互联网服务中常见的架构的，它是指将数据库中的动态内容存储和文件存储分开，常见的做法是将动态内容存储在原有的数据库系统中，而将静态文件，如图片和音视频等，托管存储在七牛云提供的对象存储服务中，这样可以更方便地维护不同类型的数据。
　　在本书第12章中讲到，CDN 节点由于数量众多，承受的流量巨大，再加上国内网络的复杂度极高，因此真正商用CDN的建设有一定难度，并且硬件和运维成本都不低，因此一般而言，企业不会去自建CDN，而是选择七牛云这样的企业来解决问题。
　　云服务的兴起改变了运维，而这种改变不会停止。
　　云服务厂商可以将所有事情标准化，然后以服务的形式打包提供给客户。而运维人员将告别烦琐的工作内容，但是他们可能要承担更多的职责——解决监控、评估、采购、报修等问题。
　　当然，你如果在云服务厂商做运维工作，便需要对传统运维有更深刻的理解了。

许式伟 七牛云CEO。曾就职于金山、百度、盛大，拥有超过15年的技术积累，连续8年组织ECUG实效云计算开发组年会。曾获国家科学技术进步奖二等奖。

推荐序
前　言
第1章　自动化运维之深度解码 1
1.1　概述 1
1.2　运维自动化的三重境界 3
1.3　运维自动化的困境和价值 4
1.3.1　运维自动化的困境 4
1.3.2　运维自动化的价值 4
1.4　运维自动化的多维解读 5
1.4.1　基于应用变更场景的维度划分 5
1.4.2　基于系统层次的维度划分 8
1.4.3基于与业务程序耦合紧密程度的维度划分 8
1.4.4　面向服务的自动化能力划分 9
1.5　运维自动化的方法论 11
1.6　运维自动化系统的实现 12
1.6.1　DNS管理系统 12
1.6.2　CMDB管理系统 13
1.6.3　名字服务中心系统 13
1.6.4　持续部署管理系统 14
1.6.5　运维调度管理系统 15
1.7　运维自动化系统的API参考实现 16
1.8　运维自动化依赖的团队模型 17
1.8.1　团队的能力模型 17
1.8.2　团队的驱动模型 18
1.8.3　团队的技能模型 18
1.8.4　参考的运维团队组织结构 19
1.9　小结 19
第2章利用Facter和Django快速构建CMDB 20
2.1　CMDB简介 21
2.2　开源CMDB介绍 21
2.2.1　OneCMDB介绍 21
2.2.2　CMDBuild介绍 22
2.2.3　其他的开源CMDB 23
2.3　Puppet及Facter介绍 24
2.3.1　什么是Puppet 24
2.3.2　为什么是Puppet 25
2.3.3　什么是Facter 25
2.3.4　Facter的特点 25
2.3.5　Facter变量 26
2.4　如何利用Python获取Facts 27
2.4.1　工作原理 27
2.4.2　利用Python脚本获取Facts 27
2.5使用Django快速构建CMDB系统 28
2.5.1　Django介绍 28
2.5.2　Django安装 29
2.5.3　Django常用命令 30
2.5.4　Django的配置 30
2.6　高级进阶 44
2.6.1　历史查询功能 44
2.6.2　API功能 45
2.6.3　数据表结构 48
2.6.4　用户管理功能 50
2.6.5　用户组管理功能 51
2.7　小结 53
第3章数据中心搬迁中的x86自动化运维 54
3.1　数据中心搬迁准备 54
3.1.1　数据中心搬迁介绍 54
3.1.2　搬迁环境介绍 55
3.1.3　搬迁前的准备工作 56
3.1.4　搬迁信息收集 56
3.2利用VMware脚本简化虚拟化层的搬迁 58
3.2.1通过脚本完成ESXI安装后的基础设置 58
3.2.2　批量挂载数据盘 63
3.2.3　批量注册虚拟机 67
3.2.4　vCenter目录结构的调整 68
3.2.5批量更改虚拟机名称及port group 69
3.2.6批量设置虚拟机版本和CPU、内存保留值 70
3.3利用批处理与Shell脚本简化逻辑节点的搬迁 71
3.3.1　逻辑节点切换脚本的思路 71
3.3.2利用批处理脚本简化Windows逻辑节点的搬迁 72
3.3.3利用Shell脚本简化Linux逻辑节点的搬迁 78
3.3.4通过SFTP和WMIC指令将脚本文件上传至所有虚拟机 86
3.3.5　搬迁期间的注意事项 87
3.4　小结 87
第4章集中配置管理工具Puppet 88
4.1如何同步puppet-agent端上的常用服务 89
4.2如何在puppet-agent端上自动安装常用的软件包 90
4.3如何自动同步puppet-agent端的yum源 90
4.4如何根据不同名字的节点机器推送不同的文件 92
4.5如何根据节点机器名来选择性地执行Shell程序 95
4.6如何快速同步puppet-server端的www目录文件 97
4.7如何利用ERB模板自动配置Apache虚拟主机 102
4.8如何利用ERB模板自动配置Nginx虚拟主机 105
4.9　小结 110
第5章深度实践iptables 111
5.1　禁用连接追踪 111
5.1.1　排查连接追踪导致的故障 111
5.1.2　分析连接追踪的原理 113
5.1.3　禁用连接追踪的方法 114
5.1.4　确认禁用连接追踪的效果 117
5.2　慎重禁用ICMP协议 117
5.2.1禁用ICMP协议导致的一则故障案例 117
5.2.2　MTU发现的原理 119
5.2.3　解决问题的方法 121
5.3　网络地址转换在实践中的案例 121
5.3.1　源地址NAT 121
5.3.2　目的地址NAT 122
5.4深入理解iptables的各种表和各种链 123
5.5　小结 125
第6章使用systemd管理Linux系统服务 126
6.1　systemd和sysVinit之间的关系 126
6.1.1　sysVinit方式下系统的启动特点 127
6.1.2　systemd方式下系统的启动特点 127
6.2　systemd的原理和启动顺序 128
6.2.1　sysVinit的启动顺序 128
6.2.2　systemd的启动顺序 130
6.3　systemd的进程控制命令 135
6.3.1　systemctl命令 136
6.3.2　hostnamectl命令 136
6.3.3　localectl命令 137
6.3.4　loginctl命令 137
6.3.5　timedatectl命令 138
6.4　systemd服务管理 138
6.4.1编写Nginx的sysVinit启动脚本 138
6.4.2编写Nginx的systemd启动脚本 140
6.4.3　systemd的其他功能 142
6.5　优化 146
6.5.1使用systemd-analyze优化启动时间 146
6.5.2　使用systemd journal功能 148
6.6　小结 148
第7章PHP运维实践 149
7.1　PHP再认识 150
7.1.1　PHP进程的工作方式 150
7.1.2　PHP代码的编译和部署 151
7.1.3　PHP内部实现和生命周期 151
7.1.4　PHP在互联网技术栈的位置 152
7.2PHP开发、架构、运维问题及解决思路 153
7.2.1　运维对PHP研发提要求 153
7.2.2运维参与PHP项目架构设计 154
7.2.3PHP运维常见问题及解决之道 156
7.3　PHP进程部署和配置、代码发布 157
7.3.1　PHP进程的部署 157
7.3.2　PHP配置文件变更 161
7.3.3　PHP配置项 162
7.3.4PHP进程部署及配置文件管理实践 164
7.3.5　PHP代码发布 165
7.3.6PHP代码发布实践：代码发布系统 167
7.4　PHP性能分析 170
7.4.1　性能问题概述 170
7.4.2　PHP性能问题 171
7.4.3　性能分析方法 172
7.4.4PHP性能分析实践：性能分析系统 181
7.5　PHP故障处理与监控 182
7.5.1　PHP故障分类及处理思路 183
7.5.2　业务监控和故障发现 184
7.5.3　PHP故障消除的方法 186
7.5.4　故障分析案例 187
7.6　小结 189
第8章应用系统运行分析 190
8.1　分析模型 191
8.1.1　数据采集 191
8.1.2　数据模型 194
8.2　运行分析平台建设 199
8.2.1　数据采集接口 199
8.2.2　数据分析模块 200
8.2.3　推广 200
8.3　呼叫中心系统运行分析示例 201
8.3.1　确定分析方案 201
8.3.2　问题分析案例介绍 202
8.4　小结 203
第9章虚拟化中存储配置典型场景：启动风暴 204
9.1　oVirt虚拟化平台配置介绍 205
9.1.1　存储配置背景知识 205
9.1.2　模板与实例同一存储 206
9.1.3　模板与实例分离存储 207
9.1.4无状态实例的硬盘与快照分离存储 207
9.2　启动风暴相关系列实验 208
9.2.1　模板配置 208
9.2.2　实验脚本 208
9.2.3WD 1TB机械硬盘启动Windows XP实验 210
9.2.4Intel 480GB SSD启动WindowsXP实验 212
9.2.5　实验结论 214
9.3私有云中处理启动风暴的常用方法 214
9.3.1　启动排队 214
9.3.2　存储分层选择 215
9.3.3其他提升桌面云存储性能的方式 217
9.4　小结 219
第10章私有云桌面网络组建 220
10.1　桌面云常用网络 220
10.1.1　NAT网络 220
10.1.2　桥接网络 223
10.1.3　VLAN网络 226
10.1.4　Access模式 226
10.1.5　Trunk模式 229
10.1.6　Open vSwitch 231
10.2 oVirt/OpenStack的桌面网络应用 232
10.2.1　oVirt/OpenStack组网方式 232
10.2.2　应用场景举例 237
10.3　小结 239
第11章浅谈服务器交付的那些事儿 240
11.1　设备签收的学问 240
11.2　服务器设置 241
11.3　Cobbler的流程与规划 244
11.4　服务器安装时遇到的各种坑 247
11.4.1DHCP客户端获取IP地址失败 247
11.4.2　TFTP加载失败 248
11.4.3　TFTP Client交互后　无响应 248
11.4.4　yum安装失败 249
11.4.5Linux内核无法识别新硬件 250
11.4.6恶意PXE启动导致原有系统被误装 250
11.5　交接后的故事 250
11.6　小结 252
第12章企业级Nginx Web服务优化实战 254
12.1　Nginx基本安全优化 254
12.1.1调整参数隐藏Nginx软件版本号信息 254
12.1.2　更改源码隐藏Nginx软件名及版本号 256
12.1.3更改Nginx服务的默认用户 259
12.2 根据参数优化Nginx服务性能 260
12.2.1优化Nginx服务的worker进程个数 260
12.2.2优化绑定不同的Nginx进程到不同的CPU上 262
12.2.3　Nginx事件处理模型优化 265
12.2.4调整Nginx单个进程允许的客户端最大连接数 266
12.2.5配置Nginx worker进程的最大打开文件数 267
12.2.6优化服务器域名的散列表大小 267
12.2.7　开启高效文件传输模式 269
12.2.8优化Nginx连接参数，调整连接超时时间 269
12.2.9上传文件大小的限制（动态应用） 272
12.2.10 FastCGI相关参数调优（配合PHP引擎动态服务） 273
12.2.11 配置Nginx gzip压缩实现性能优化 277
12.2.12 配置Nginx expires缓存实现性能优化 279
12.3　Nginx日志相关的优化与安全 283
12.3.1编写脚本实现Nginx access日志轮询 283
12.3.2不记录不需要的访问日志 284
12.3.3　访问日志的权限设置 284
12.4Nginx站点目录及文件URL访问控制 284
12.4.1根据扩展名限制程序和文件访问 284
12.4.2禁止访问指定目录下的所有文件和目录 285
12.4.3　限制网站来源IP访问 286
12.4.4配置Nginx，禁止非法域名解析访问企业网站 287
12.5Nginx图片及目录防盗链解决方案 288
12.6　Nginx错误页面的优雅显示 295
12.6.1生产环境中常见的HTTP状态码列表 295
12.6.2为什么要配置错误页面优雅显示 295
12.7Nginx站点目录文件及目录权限优化 298
12.8　Nginx防爬虫优化 300
12.9利用Nginx限制HTTP的请求方法 302
12.10　使用CDN做网站内容加速 302
12.10.1　什么是CDN 302
12.10.2　CDN的特点 303
12.10.3　企业使用CDN的基本　要求 304
12.11　Nginx程序架构优化 304
12.12　使用普通用户启动Nginx（监牢模式） 305
12.12.1　为什么要让Nginx服务使用普通用户 305
12.12.2　给Nginx服务降权的解决方案 305
12.12.3　给Nginx服务降权实战 306
12.13　控制Nginx并发连接数量 308
12.14　控制客户端请求Nginx的速率 312
12.15　小结 314
第13章　游戏运维的思考 315
13.1　游戏运维最关键的几件事 315
13.1.1　安全 315
13.1.2　稳定 318
13.1.3　高效 322
13.1.4　成本节约 323
13.2　游戏运维人的发展 32