前言

这是我参与【第五届青训营】伴学笔记创作活动第九天，本节课的主要学习内容为微服务架构的背景，微服务架构原理及特征，核心服务治理功能，及服务治理的实践。

正文

1. 微服务架构介绍

• 系统架构演变历史：
• 单体架构：把所有逻辑放进一个项目里面。优点：性能最高，冗余小。缺点：debug困难，模块互相影响，模块分工，开发流程。
• 垂直应用架构：按照业务线垂直划分。优点：业务独立开发维护。缺点：调用关系复杂，不用服务冗余。
• 分布式架构：抽出业务无关的公共模块。优点：业务无关的独立服务。缺点：服务模块bug可导致全站瘫痪，调用关系复杂，不同服务冗余。
• SOA架构：面向服务。优点：服务注册。劣势：整个系统设计是中心化的，需要从上至下的，重构困难。
• 微服务架构：彻底的服务化。优点：开发独立，业务独立设计，自上而下，故障隔离。劣势：治理，运维难度，观测挑战，安全性，分布式系统。
• 微服务架构核心要素：服务治理，可观测性，安全性

2.微服务架构原理及特征

- 基本概念

• 服务：一组具有相同逻辑的运行实体
• 实例：一个服务中，每个运行实体即为一个实例
• 实例与进程的关系：实例与进程直接没有必然的对应关系，可以一个实例对应一个或者多个进程（反之不常见）
• 集群：通常指服务内部的逻辑划分，包含多个实例。
• 常见的实例承载模式：进程，VM，k8s pod
• 有状态/无状态服务：服务的实例是否储存了可持续化的数据（例如磁盘文件）
• 服务间通信：对于单体服务，不同模块通信知识简单的函数调用，对于微服务，服务间通信意味着网络传输。

- 服务注册及发现

• 在代码层面，如何制定调用一个目标服务的地址（ip：port）：
• hardcode：（不行）：不能使用固定的空间

//Service A wants to call service B.
client：=grpc NewClient（“10.23.45.67：8080”）

• DNS：本地DNS存在缓存，导致延时，负载均衡问题，不支持服务的探活检查，域名无法配置端口。
• 解决思路：新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。

- 流量特征：

• 统一网关入口
• 内网通信多采用RPC
• 网状调用链路

3，核心服务治理功能

- 服务发布：

• 定义：指让一个服务升级运行新的代码的过程。
• 服务发布的难点：服务不可用，服务抖动，服务回滚。
• 蓝绿部署：简单，稳定，但需要两倍资源。（适合流量低）
• 灰度发布（金丝雀发布）

-流量控制

• 在微服务架构下，我们可以基于地区，集群，实例，请求等维度，对端到端流量的路由路径治理。

- 负载均衡

• 负载均衡负责分配请求在每个下游实例的分布

- 稳定性治理

• 线上服务总会出问题，这与程序的正确性无关。
• 问题：网络攻击，流量突增，机房断电，光纤被挖，机器故障，网络故障，机房空调故障。
• 微服务架构中典型的稳定性治理：限流，熔断，过载保护，降级。

4.治理实践

- 重试的意义

• 本地函数调用：出现异常没有重试的必要。（可能出现的异常：参数非法，OOM，NPE，边界case，系统崩溃，死循环，程序异常退出）
• 远程函数调用:有重试的意义（网络抖动，下游负载高导致超时，下游机器宕机，本地机器负载高调度过高，下游熔断，限流）
• 重试可以避免偶发的错误，提高SLA。
• 意义：
• 降低错误率；
• 降低长尾延时：对于偶尔耗时较长的请求，重试请求有机会提前；
• 容忍暂时性错误：重试有事会导致暂时性异常，充实可以尽量避免；
• 避开下游故障实例：

- 重试的难点

• 幂等性，重试风暴，超时设置。

- 重试策略

• 限制重试比例：只有大部分都是成功的概率才有重试的必要。设定一个重试比例阈值（例如1%），重试次数占所有请求比例不超过该阈值。
• 防止链式重试：链路层面是重试风暴核心是限制每层都要发生重试，理想情况下只有最下一层发生重试，可以返回特殊的status表明“请求失败，但别重试”。
• Hedged requests：对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。