这是我参与「第五届青训营」笔记创作活动的第 9 天。笔记旨在记录自己的学习过程以及跟更多人分享交流,重点讲干货,不扣细节,从整体认知。废话不多说,上内容!!!
本堂课重点内容
-
微服务架构介绍
-
微服务架构原理及特征
-
核心服务治理功能
-
字节跳动服务治理实践
详细知识点介绍
微服务架构介绍
-
系统架构的演进历史
- 单体架构
- 垂直应用架构
- 分布式架构
- SOA架构
- 微服务架构
优势: 1.开发效率 2业务独立设计 3.自下而上 4.故障隔离
劣势: 1.治理、运维难度 2.观测挑战 3.安全性 4.分布式系统
-
微服务架构的三大要素
- 服务治理
- 可观测性
- 安全
微服务架构原理及特征
基本概念
- 服务(service)
一组具有相同逻辑的运行实体。
- 实例(instance)
一个服务中,每个运行实体即为一个实例。
- 实例与进程的关系
实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程(反之不常见)。
- 集群(cluster)
通常指服务内部的逻辑划分,包含多个实例。
- 常见的实例承载形式
进程、VM、k8s pod …
- 有状态/无状态服务
服务的实例是否存储了可持久化的数据(例如磁盘文件)。
- 服务间通信
对于单体服务,不同模块通信只是简单的函数调用。对于微服务,服务间通信意味着网络传输。
服务注册及发现
- 问题
在代码层面,如何指定调用一个目标服务的地址(ip:port)?
- 解决思路
新增一个统一的服务注册中心,用于存储服务名到服务实例的映射。
- 服务实例上线及下线过程
流量特征
- 统一网关入口
- 内网通信多数采用 RPC
- 网状调用链路
核心服务治理功能
- 服务发布
服务发布(deployment),即指让一个服务升级运行新的代码的过程。
- 蓝绿部署
简单,稳定但需要两倍资源
- 灰度发布(金丝雀发布)
- 流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。
- 负载均衡
负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。
常见的LB策略
- Round Robin
- Ring Hash
- Random
- 稳定性治理
线上服务总是会出问题的,这与程序的正确性无关。
微服务架构中典型的稳定性治理功能
- 限流
- 熔断
- 过载保护
- 降级
实践练习例子
字节跳动服务治理实践
-
请求重试的意义
-
本地函数调用
- 通常没有重试意义
-
远程函数调用
- 网络抖动、下游负载高、下游机器宕机......
- 重试是有意义的,可以避免偶发性的错误,提高 SLA
-
重试的意义
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
-
-
请求重试的难点
-
幂等性
- POST 请求可以重试吗?
-
重试风暴
- 随着调用链路的增加,重试次数呈指数级上升
-
超时设置
- 假设调用时间一共1s,经过多少时间开始重试?
-
-
重试策略
-
限制重试比例
- 设定一个重试比例阈值(例如 1%),重试次数占所有请求比例不超过该阈值
-
防止链路重试
- 返回特殊的 status code,表示“请求失败,但别重试”
-
Hedged Requests
- 对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应
-
-
重试效果验证
- 字节跳动重试组件能够极大限制重试发生的链路放大效应
课后个人总结
- 微服务架构(Microservice Architecture)是一种架构概念,旨在通过将功能分解到各个离散的服务中以实现对解决方案的解耦。你可以将其看作是在架构层次而非获取服务的类上应用很多SOLID原则。微服务架构是个很有趣的概念,它的主要作用是将功能分解到离散的各个服务当中,从而降低系统的耦合性,并提供更加灵活的服务支持。
- 微服务对我们的思考,更多的是思维上的转变。对于微服务架构:技术上不是问题,意识比工具重要。