这是我参与「第五届青训营 」伴学笔记创作活动的第 11 天
微服务架构介绍
- 系统架构演变历史
- 单体架构
- debug困难
- 模块间耦合严重
- 开发分工,依赖管理,协作开发困难
- 垂直应用架构:按照业务线垂直划分系统
- 不同业务存在冗余
- 每个业务都是单体架构
- 分布式架构:抽出业务无关得功能模块
- 服务模块bug影响面较大
- 调用关系复杂
- 不同服务冗余
- SOA架构:面向服务划分,进行服务注册
- 整个系统依然中心化
- 重构困难
- 微服务架构:彻底服务化
- 治理难度高
- 观测挑战
- 安全性
- 分布式系统复杂
- 单体架构
- 微服务架构核心要素
- 服务治理
- 可观测性
- 安全性
微服务架构原理及特征
-
基本概念
- 服务(service):一组具有相同逻辑的运行实体。
- 实例(instance):一个服务中,每个运行实体即为一个实例。
- 实例与进程的关系:实例与进程之间没有必然对应关系,可以一个 实例可以对应一个或多个进程(反之 .不常见)
- 集群(cluster):通常指服务内部的逻辑划分,包含多个实例。
- 常见的实例承载形式:进程、VM、k8s pod
- 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)
-
服务注册及发现
单体服务模块间调用只是简单的函数调用,但微服务架构中模块的调用需要进行网络通信(毕竟不在同一个服务器),那如何保证不同服务间知道对方的ip:port呢?
- 硬编码:写死在项目中显然不合理
- DNS:有延时,无法负载均衡,域名无法配置端口,无法进行探活检测
- 注册中心:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射
-
流量特征
- 统一网关入口
- 内网通信多数采用RPC
- 网状调用链路
核心服务治理功能
-
服务发布
服务发布指让一个服务升级运行新的代码的过程。
- 难点
- 发布过程服务不可用
- 服务抖动
- 发布错误服务回滚
- 解决方案
- 蓝绿发布
- 金丝雀发布(放量发布)
- 难点
-
流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。
-
负载均衡
负责分配请求在每个下游实例上的分布。
-
稳定性治理
- 限流
- 熔断
- 过载保护
- 降级
字节跳动服务治理实践
- 降低错误率:假设单次请求的错误概率为0.01,那么连续两次错误概率则为0.0001。
- 降低长尾延时:对于偶尔耗时较长的请求,重 试请求有机会提前返回。
- 容忍暂时性错误:某些时候系统会有暂时性异常(例如 网络抖动),重试可以尽量规避。
- 避开下游故障实例:一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。
- 重试可以避免掉偶发的错误,提高SLA (Service-Level Agreement)
- 重试也会导致问题
- 幂等性:多次请求可能会造成数据不一致
- 重试风暴:随着调用深度的增加,重试次数会指数级上涨(稍后分析)
- 超时设置:假设-个调用正常是1s的超时时间,如果允许一次重试, 那么第一次请求经过多少时间时, 才开始重试呢?
参考资料
微服务架构原理与治理实践 .pptx - 飞书云文档 (feishu.cn)
面试官灵魂三问:什么是SOA?什么是微服务?SOA和微服务有什么区别? - 腾讯云开发者社区-腾讯云 (tencent.com)