这是我参与「第五届青训营 」伴学笔记创作活动的第 10 天
微服务框架简单介绍
由于互联网的发展、硬件的发展，需求复杂性的多样化以及计算机理论技术的发展，系统架构不断演进。
微服务的核心要素包括：服务治理、可观测性、安全
原理及特征
服务：一组具有相同逻辑的运行实体。 实例：一个服务中，每个运行实体即为一个实例
实例与进程的关系：实例与进程之间没有必然对应关系，可以一个实例对应一个或多个进程
对于单体服务，不同模块通信只是简单的函数调用。而对于微服务，服务间通信意味着网络传输。
核心服务治理功能
服务发布，即指让一个服务升级运行新的代码的过程
- 蓝绿部署
- 灰度部署
流量治理，在微服务架构下，我们可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行精确控制。
负载均衡负责分配请求在每个下游实例上的分布。
线上服务总是会出问题，包括如网络攻击、流量突增、网络故障等等。对于这些场景，微服务架构中典型的稳定性治理功能有限流、熔断、过载保护、降级这几种方案。
详细知识点介绍
微服务架构介绍
-
系统架构的演进历史
- 单体架构
- 垂直应用架构
- 分布式架构
- SOA架构
- 微服务架构
优势: 1.开发效率 2业务独立设计 3.自下而上 4.故障隔离
劣势: 1.治理、运维难度 2.观测挑战 3.安全性 4.分布式系统
-
微服务架构的三大要素
- 服务治理
- 可观测性
- 安全
微服务架构原理及特征
基本概念
- 服务(service)
一组具有相同逻辑的运行实体。
- 实例(instance)
一个服务中，每个运行实体即为一个实例。
- 实例与进程的关系
实例与进程之间没有必然对应关系，可以一个实例可以对应一个或多个进程(反之不常见)。
- 集群(cluster)
通常指服务内部的逻辑划分,包含多个实例。
- 常见的实例承载形式
进程、VM、k8s pod …
- 有状态/无状态服务
服务的实例是否存储了可持久化的数据(例如磁盘文件)。
- 服务间通信
对于单体服务，不同模块通信只是简单的函数调用。对于微服务，服务间通信意味着网络传输。
服务注册及发现
- 问题
在代码层面，如何指定调用一个目标服务的地址(ip:port)?
- 解决思路
新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。
- 服务实例上线及下线过程
流量特征
- 统一网关入口
- 内网通信多数采用 RPC
- 网状调用链路
核心服务治理功能
- 服务发布
服务发布(deployment)，即指让一个服务升级运行新的代码的过程。
- 蓝绿部署
简单，稳定但需要两倍资源
- 灰度发布（金丝雀发布）
复制代码
- 流量治理
在微服务架构下，我们可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行精确控制。
- 负载均衡
负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。
常见的LB策略
- Round Robin
- Ring Hash
- Random
复制代码
- 稳定性治理
线上服务总是会出问题的，这与程序的正确性无关。
微服务架构中典型的稳定性治理功能
- 限流
- 熔断
- 过载保护
- 降级
复制代码
实践练习例子
字节跳动服务治理实践
-
请求重试的意义
-
本地函数调用
- 通常没有重试意义
-
远程函数调用
- 网络抖动、下游负载高、下游机器宕机......
- 重试是有意义的，可以避免偶发性的错误，提高 SLA
-
重试的意义
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
-
-
请求重试的难点
-
幂等性
- POST 请求可以重试吗？
-
重试风暴
- 随着调用链路的增加，重试次数呈指数级上升
-
超时设置
- 假设调用时间一共1s，经过多少时间开始重试？
-
-
重试策略
-
限制重试比例
- 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值
-
防止链路重试
- 返回特殊的 status code，表示“请求失败，但别重试”
-
Hedged Requests
- 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应
-
-
重试效果验证
- 字节跳动重试组件能够极大限制重试发生的链路放大效应
