分布式服务框架：原理与实践

　　李林锋，现任华为PaaS平台架构师，8年JavaNIO通信框架、平台中间件架构设计和开发经验，主导设计和开发的华为分布式服务框架已经在全球数十个国家成功商用。精通Netty、Mina、RPC框架、企业ESB总线、分布式服务框架等技术，Netty专业书作者，公司总裁技术创新奖获得者。

适读人群 ：本书适合架构师、设计师、软件开发工程师、测试工程师以及其他对互联网分布式架构感兴趣的相关人士阅读。
　　1、微服务是当前非常热的技术关键词之一，那么微服务如何落地呢？首先要实现服务化，微服务架构是一种服务化架构风格。《分布式服务框架原理与实践》对如何构建分布式服务化系统，提供了原理分析、关键技术、开发案例以及业界技术对比，非常系统化，不论是学习分布式服务技术还是深入大型互联网架构都非常实用。
　　2、《分布式服务框架原理与实践》作者李林锋多年来在华为一直从事核心代码的架构设计和开发，属于实战型架构师，这本书集合了他多年的架构思路，书中内容组织清晰，图例详实，非常便于理解与吸收。
　　3、《分布式服务框架原理与实践》首先分析了作为一个分布式服务框架所需具备的能力，包括服务注册中心、服务调用、服务路由、服务发布／灰度发布等；接着分析了服务底层如何有效地进行通信，包括通信框架、序列化／反序列化及协议栈等；然后分析了服务如何做到高可靠性及高安全性等重要特性；最后也阐述了从服务化如何向微服务演进。干货满满！

序一
　　IT 的体系架构在历史上经历了几次大的变化。从主机瘦客户机时代，到Client Server兴起，然后过渡到Browser Server 的架构，再到移动+云计算+大数据的大热。
　　总结起来，IT 的核心变迁轨迹是在客户端不断提升体验，易联易用，而在服务器端则是不断追求性能和成本优化改进。近几年，还有一个非常明显的趋势是技术的成熟度和融合度不断提高，移动、云计算领域平台型的公司（Android、iOS、AWS）使得整个IT 能力的使用成本很低，进入速度非常快，现在的高中生也可以利用手头的工具非常快速方便地参与到软件构建中来，这在以前是不可想象的。移动互联网兴起以后，大概在短短5 年内，世界上绝大部分原来在PC 端可以满足的需求都由移动端的应用实现了一遍。IT 已经变成了一个快速消费品，而不是一个奢侈品。
　　技术的进步使得IT 的敏捷性大大提升，但是对于一个大型系统来说，如何能够降低系统的复杂度，提升敏捷性是关键而又头疼的问题。我们也看到一些通用的标准已经建立起来了，降低模块之间的耦合度，提升组件的内聚性，规范对外的接口，实现分布式的系统架构，把一个大型系统通过服务化的方式规划治理起来，已经成为一个共识。
　　一个现代的大型IT 系统，服务可以多至十万、百万级，如此众多的服务，从设计、开发、运行、编排、维护到治理，每一个环节都需要大量深入仔细的考虑，才能够运转起来。我们可以把这样一个系统比喻成一个城市，城市里面有成千上万的公司，每一个公司都有自己的业务来往，同时又需要现代化的交通、电力、通信、金融等体系的支持。无论是小公司还是大公司，都依赖于整个城市的运作和治理体系。公司和城市是相辅相成的关系。IT系统里面的业务模块和服务化框架也是相辅相成的关系。服务化框架对于一个大型IT 系是不可或缺的。
　　业界有很多介绍服务化理念和技术点的文章和书籍。但真正能够在理论、实践、技术要点、眼界多方面全面覆盖的资料,还是比较缺乏的。我很高兴看到林锋能够总结自己在理论、产品和客户实践多方面的认知和经验，为读者奉献《分布式服务框架原理与实践》一书，深入浅出地介绍分布式服务的概念、体系和关键技术点。希望这本书能够帮助你了解分布式服务框架，掌握分布式服务体系和技术要点，同时也能实践服务化给你的IT 系统带来的敏捷。
　　黄省江
　　华为软件PaaS 平台&云中间件技术总监

第1章应用架构演进1
1.1传统垂直应用架构2
1.1.1垂直应用架构介绍2
1.1.2垂直应用架构面临的挑战4
1.2RPC架构6
1.2.1RPC框架原理6
1.2.2最简单的RPC框架实现8
1.2.3业界主流RPC框架14
1.2.4RPC框架面临的挑战17
1.3SOA服务化架构18
1.3.1面向服务设计的原则18
1.3.2服务治理19
1.4微服务架构21
1.4.1什么是微服务21
1.4.2微服务架构对比SOA22
1.5总结23
第2章分布式服务框架入门25
2.1分布式服务框架诞生背景26
2.1.1应用从集中式走向分布式.26?
2.1.2亟需服务治理28
2.2业界分布式服务框架介绍29
2.2.1阿里Dubbo30
2.2.2淘宝HSF33
2.2.3亚马逊CoralService35
2.3分布式服务框架设计36
2.3.1架构原理36
2.3.2功能特性37
2.3.3性能特性39
2.3.4可靠性39
2.3.5服务治理40
2.4总结41
第3章通信框架42
3.1关键技术点分析43
3.1.1长连接还是短连接43
3.1.2BIO还是NIO43
3.1.3自研还是选择开源NIO框架46
3.2功能设计47
3.2.1服务端设计48
3.2.2客户端设计50
3.3可靠性设计53
3.3.1链路有效性检测54
3.3.2断连重连机制56
3.3.3消息缓存重发57
3.3.4资源优雅释放58
3.4性能设计59
3.4.1性能差的三宗罪59
3.4.2通信性能三原则60
3.4.3高性能之道61
3.5最佳实践61
3.6总结64
第4章序列化与反序列化65
4.1几个关键概念澄清66
4.1.1序列化与通信框架的关系66
4.1.2序列化与通信协议的关系66
4.1.3是否需要支持多种序列化方式67
4.2功能设计67
4.2.1功能丰富度67
4.2.2跨语言支持68
4.2.3兼容性69
4.2.4性能70
4.3扩展性设计71
4.3.1内置的序列化/反序列化功能类71
4.3.2反序列化扩展72
4.3.3序列化扩展75
4.4最佳实践77
4.4.1接口的前向兼容性规范77
4.4.2高并发下的稳定性78
4.5总结78
第5章协议栈79
5.1关键技术点分析.80
5.1.1是否必须支持多协议80
5.1.2公有协议还是私有协议80
5.1.3集成开源还是自研81
5.2功能设计82
5.2.1功能描述82
5.2.2通信模型82
5.2.3协议消息定义84
5.2.4协议栈消息序列化支持的字段类型85
5.2.5协议消息的序列化和反序列化86
5.2.6链路创建89
5.2.7链路关闭90
5.3可靠性设计90
5.3.1客户端连接超时90
5.3.2客户端重连机制91
5.3.3客户端重复握手保护91
5.3.4消息缓存重发92
5.3.5心跳机制92
5.4安全性设计92
5.5最佳实践—协议的前向兼容性94
5.6总结95
第6章服务路由96
6.1透明化路由97
6.1.1基于服务注册中心的订阅发布97
6.1.2消费者缓存服务提供者地址98
6.2负载均衡98
6.2.1随机98
6.2.2轮循99
6.2.3服务调用时延99
6.2.4一致性哈希100
6.2.5粘滞连接101
6.3本地路由优先策略102
6.3.1injvm模式102
6.3.2innative模式102
6.4路由规则103
6.4.1条件路由规则103
6.4.2脚本路由规则104
6.5路由策略定制105
6.6配置化路由106
6.7最佳实践—多机房路由107
6.8总结108
第７章集群容错109
7.1集群容错场景110
7.1.1通信链路故障110
7.1.2服务端超时111
7.1.3服务端调用失败111
7.2容错策略112
7.2.1失败自动切换（Failover）112
7.2.2失败通知（Failback）113
7.2.3失败缓存（Failcache）113
7.2.4快速失败（Failfast）114
7.2.5容错策略扩展114
7.3总结115
第8章服务调用116
8.1几个误区117
8.1.1NIO就是异步服务117
8.1.2服务调用天生就是同步的118
8.1.3异步服务调用性能更高120
8.2服务调用方式120
8.2.1同步服务调用120
8.2.2异步服务调用121
8.2.3并行服务调用125
8.2.4泛化调用129
8.3最佳实践130
8.4总结131
第９章服务注册中心132
9.1几个概念133
9.1.1服务提供者133
9.1.2服务消费者133
9.1.3服务注册中心133
9.2关键功能特性设计134
9.2.1支持对等集群135
9.2.2提供CRUD接口136
9.2.3安全加固136
9.2.4订阅发布机制137
9.2.5可靠性138
9.3基于ZooKeeper的服务注册中心设计139
9.3.1服务订阅发布流程设计139
9.3.2服务健康状态检测141
9.3.3对等集群防止单点故障142
9.3.4变更通知机制144
9.4总结144
第10章服务发布和引用145
10.1服务发布设计146
10.1.1服务发布的几种方式146
10.1.2本地实现类封装成代理148
10.1.3服务发布成指定协议148
10.1.4服务提供者信息注册149
10.2服务引用设计150
10.2.1本地接口调用转换成远程服务调用150
10.2.2服务地址本地缓存151
10.2.3远程服务调用151
10.3最佳实践152
10.3.1对等设计原则152
10.3.2启动顺序问题153
10.3.3同步还是异步发布服务153
10.3.4警惕网络风暴154
10.3.5配置扩展154
10.4总结156
第11章服务灰度发布157
11.1服务灰度发布流程设计158
11.1.1灰度环境准备158
11.1.2灰度规则设置159
11.1.3灰度规则下发160
11.1.4灰度路由161
11.1.5失败回滚162
11.1.6灰度发布总结163
11.2总结163
第12章参数传递164
12.1内部传参165
12.1.1业务内部参数传递165
12.1.2服务框架内部参数传递168
12.2外部传参169
12.2.1通信协议支持169
12.2.2传参接口定义170
12.3最佳实践171
12.3.1防止参数互相覆盖171
12.3.2参数生命周期管理171
12.4总结172
第13章服务多版本173
13.1服务多版本管理设计174
13.1.1服务版本号管理174
13.1.2服务提供者175
13.1.3服务消费者175
13.1.4基于版本号的服务路由176
13.1.5服务热升级177
13.2与OSGi的对比178
13.2.1模块化开发179
13.2.2插件热部署和热升级184
13.2.3不使用OSGi的其他理由185
13.3总结185
第14章流量控制186
14.1静态流控187
14.1.1传统静态流控设计方案187
14.1.2传统方案的缺点188
14.1.3动态配额分配制188
14.1.4动态配额申请制190
14.2动态流控191
14.2.1动态流控因子192
14.2.2分级流控192
14.3并发控制193
14.3.1服务端全局控制193
14.3.2服务消费者流控194
14.4连接控制195
14.4.1服务端连接数流控195
14.4.2服务消费者连接数流控195
14.5并发和连接控制算法195
14.6总结197
第15章服务降级198
15.1屏蔽降级199
15.1.1屏蔽降级的流程199
15.1.2屏蔽降级的设计实现200
15.2容错降级202
15.2.1容错降级的工作原理202
15.2.2运行时容错降级.204
15.3业务层降级205
15.4总结205
第16章服务优先级调度207
16.1设置服务优先级208
16.2线程调度器方案209
16.3Java优先级队列210
16.4加权优先级队列211
16.5服务迁入迁出212
16.6总结213
第17章服务治理214
17.1服务治理技术的历史变迁215
17.1.1SOAGovernance215
17.1.2分布式服务框架服务治理217
17.1.3AWS云端微服务治理217
17.2应用服务化后面临的挑战218
17.2.1跨团队协作问题219
17.2.2服务的上下线管控220
17.2.3服务安全220
17.2.4服务SLA保障.221
17.2.5故障快速定界定位221
17.3服务治理222
17.3.1服务治理架构设计223
17.3.2运行态服务治理功能设计225
17.3.3线下服务治理232
17.3.4安全和权限管理234
17.4总结237
第18章分布式消息跟踪239
18.1业务场景分析240
18.1.1故障的快速定界定位240
18.1.2调用路径分析241
18.1.3调用来源和去向分析242
18.2分布式消息跟踪系统设计242
18.2.1系统架构243
18.2.2埋点日志244
18.2.3采样率247
18.2.4采集和存储埋点日志248
18.2.5计算和展示249
18.2.6调用链扩展251
18.3总结251
第19章可靠性设计253
19.1服务状态检测254
19.1.1基于服务注册中心状态检测254
19.1.2链路有效性状态检测机制255
19.2服务健康度检测256
19.3服务故障隔离257
19.3.1进程级故障隔离257
19.3.2VM级故障隔离259
19.3.3物理机故障隔离260
19.3.4机房故障隔离261
19.4其他可靠性特性262
19.4.1服务注册中心262
19.4.2监控中心262
19.4.3服务提供者262
19.5总结263
第20章微服务架构264
20.1微服务架构产生的历史背景265
20.1.1研发成本挑战265
20.1.2运维成本高267
20.1.3新需求上线周期长268
20.2微服务架构带来的改变268
20.2.1应用解耦268
20.2.2分而治之270
20.2.3敏捷交付271
20.3微服务架构解析271
20.3.1微服务划分原则272
20.3.2开发微服务272
20.3.3基于Docker容器部署微服务274
20.3.4治理和运维微服务277
20.3.5特点总结278
20.4总结279
第21章服务化最佳实践280
21.1性能和时延问题281
21.1.1RPC框架高性能设计281
21.1.2业务最佳实践285
21.2事务一致性问题286
21.2.1分布式事务设计方案287
21.2.2分布式事务优化288
21.3研发团队协作问题289
21.3.1共用服务注册中心290
21.3.2直连提供者290
21.3.3多团队进度协同291
21.3.4服务降级和Mock测试291
21.3.5协同调试问题292
21.3.6接口前向兼容性292
21.4总结292

分布式,架构,Java,微服务,分布式,微服务,计算机,软件开发,编程