微服务架构原理与治理实践 | 青训营笔记

47 阅读4分钟

这是我参与「第五届青训营 」笔记创作活动的第14天

一、本堂课重点内容:

1、微服务架构介绍

2、微服务架构原理及特征

3、核心服务治理功能

4、字节跳动服务治理实践

二、详细知识点介绍:

1、微服务架构介绍

系统架构演变历史

image-20230226225652036

单体架构
优势:

1、性能最高

2、冗余小

劣势:

1、debug困难

2、模块相互影响

3、模块分工、开发流程

image-20230226230020513
垂直应用架构
优势:

1.业务独立开发维护

劣势:

1.不同业务存在冗余

2.每个业务还是单体

image-20230226230126584
分布式架构

抽出业务无关的公共模块

优势:

1.业务无关的独立服务

劣势:

1.服务模块bug可导致全站瘫痪

2.调用关系复杂

3.不同服务冗余

image-20230226230248502
soA架构

面向服务

优势:

1、服务注册

劣势:

1、整个系统设计是中心化的

2、需要从上至下设计

3、重构困难

image-20230226230409378
微服务架构

彻底的服务化

优势:

1.开发效率

2.业务独立设计

3.自下而上

4.故障隔离

劣势:

1.治理、运维难度

2.观测挑战

3.安全性

4.分布式系统

image-20230226230511391

微服务架构概览

image-20230226225739802

微服务架构核心要素

服务治理

服务注册

服务发现

负载均衡

扩缩容

流量治理

稳定性治理

可观测性

日志采集

日志分析

监控打点

监控大盘

异常报警

链路追踪

安全

身份验证

认证授权

访问令牌

审计

传输加密

黑产攻击

2、微服务架构原理及特征

基本概念

服务(service)

一组具有相同逻辑的运行实体。

实例( instance)

一个服务中,每个运行实体即为一个实例。实例与进程的关系 实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程(反之不常见)。

集群(cluster)

通常指服务内部的逻辑划分,包含多个实例。

常见的实例承载形式

进程、VM、k8s pod …

有状态/无状态服务

服务的实例是否存储了可持久化的数据(例如磁盘文件)。

image-20230226231320743

服务注册及发现

image-20230226231714374

流量特征

统—网入口 内网通信多采用RPC 网状调用链路

image-20230226231924567

3、核心服务治理功能

服务发布

服务发布的难点
服务不可用
image-20230226232133271
服务抖动
image-20230226232156561
服务回滚

image-20230226232215958

灰度发布(金丝雀发布)
image-20230226232334443

流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。

image-20230226232412739

负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。

常见的LB策略

Round Robin Random Ring Hash Least Request

稳定性治理

线上服务总是会出问题的,这与程序的正确性无关。

image-20230226232605668

微服务架构中典型的稳定性治理功能

image-20230226232639966

4、字节跳动服务治理实践

重试的意义

重试可以避免掉偶发的错误,提高SLA (Service-Level Agreement)

image-20230226232926404
降低错误率

假设单次请求的错误概率为0.01,那么连续两次错误概率则为0.0001。

降低长尾延时

对于偶尔耗时较长的请求,重试请求有机会提前返回。

容忍暂时性错误

某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避。

避开下游故障实例

一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。

重试的难点

重试风暴
image-20230226233048849

重试策略

限制重试比例

设定一个重试比例阈值(例如1%),重试次数占所有请求比例不超过该阈值。

image-20230226233125918
防止链路重试

链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。可以返回特殊的status表明“请求失败,但别重试”。

image-20230226233217990
Hedged requests

对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。

image-20230226233331753

重试效果验证

实际验证经过上述重试策略后,在链路上发生的重试放大效应。

image-20230226233415805

三、课后个人总结:

此次课我第一次系统性学习了微服务框架的起源和原理,真正理解了服务框架的优点。