这是我参与「第五届青训营 」伴学笔记创作活动的第 9 天
微服务架构介绍
- 系统架构的演进历史
系统架构的演进历史
| 架构类型 | 原理 | 优势 | 劣势 |
|---|---|---|---|
| 单体架构 | all in one process | 性能最高;冗余小 | debug困难;模块相互影响;模块分工、开发流程 |
| 垂直应用架构 | 按照业务线垂直划分 | 业务独立开发维护 | 不同业务存在冗余;每个业务还是单体服务架构 |
| 分布式架构 | 抽出业务无关的公共模块 | 业务无关的独立服务 | 服务模块bug可导致全站瘫痪;调用关系复杂;不同服务冗余 |
| SOA架构 | 面向服务 | 服务注册 | 中心化;从上至下设计;重构困难 |
| 微服务架构 | 彻底的服务化 | 开发效率;业务独立设计;自下而上;故障隔离 | 治理、运维难度;观测挑战;安全性;分布式系统 |
-
微服务架构的三大要素
- 服务治理
- 可观测性
- 安全
微服务架构原理及特征
基本概念
-
服务
- 一组具有相同逻辑(同一份代码)的运行实体。
-
实例
- 一个服务中的每个运行实体
-
实例与进程的关系
- 没有必然对应关系,一般一对一或者一对多
-
常见的实例承载形式
- 进程、VM、k8s pod......
微服务架构介绍
系统架构的演进历史
-
单体架构
- All in one process
-
垂直应用架构
- 按照业务线垂直划分
-
分布式架构
- 抽出与业务无关的公共模块
-
SOA架构
- 面向服务
-
微服务架构
- 彻底的服务化
微服务架构概览
- 网关
- 服务配置和治理
- 链路追踪和监控
配置注入
微服务实例在运行时,可能会根据负载进行弹性伸缩,所以,依赖必须在运行时注入,而不能在编译打包时固定,更加不能依赖基础设施信息,比如IP地址等。
微服务架构的三大要素
-
服务治理(本课程内容)
- 服务注册
- 服务发现
- 负载均衡
- 扩缩容
- 流量治理
- 稳定性治理
-
可观测性
- 日志采集
- 日志分析
- 监控打点
- 监控大盘
- 异常报警
- 链路追踪
-
安全
- 身份验证
- 认证授权
- 访问令牌
- 审计
- 传输加密
- 黑产攻击
微服务架构原理及特征
微服务架构中的基本概念及组件
-
服务
- 一组具有相同逻辑的运行实体
-
实例
- 一个服务中的每个运行实体
-
实例与进程的关系
- 没有必然对应关系,一般一对一或者一对多
-
常见的实例承载形式
- 进程、VM、k8s pod......
服务间通信
- 微服务之间通过网络进行通信
- 常见的通信协议包括 HTTP、RPC
服务注册及服务发现
-
基本问题
- 服务间调用中,如何指定下游服务实例的地址?
-
简单方案
-
直接指定 ip:port?
- 没有任何动态能力
- 有多个实例下游实例怎么办?
-
使用 DNS?
- 本地 DNS 存在缓存,导致延迟
- DNS 没有负载均衡
- 不支持服务探活检查
- DNS 不能指定端口
-
-
服务注册发现
- 新增一个统一的服务注册中心,用于存储服务名到服务实例之间的映射关系
- 旧服务实例下线前,从服务注册中心删除该实例,下线流量
- 新服务实例上线后,在服务注册中心注册该实例,上线流量
-
微服务流量特征
- 统一网关入口
- 外网通信多数采用 HTTP,内网通信多数采用 RPC(Thrift, gRPC)
核心服务治理功能
服务发布
-
何为服务发布
- 让一个服务升级运行新的代码的过程
-
服务发布难点
- 服务不可用
- 服务抖动
- 服务回滚
-
蓝绿部署
- 将服务分成两个部分,分别先后发布
- 简单、稳定
- 但需要两倍资源
-
灰度发布(金丝雀发布)
- 先发布少部分实例,接着逐步增加发布比例
- 不需要增加资源
- 回滚难度大,基础设施要求高
流量治理
-
流量控制
- 在微服务架构中,可以从各个维度对端到端的流量在链路上进行精确控制
-
控制维度
- 地区维度
- 集群维度
- 实例维度
- 请求维度
负载均衡
- Round Robin
- Random
- Ring Hash
- Least Request
稳定性治理
-
限流
- 限制服务处理的最大 QPS,拒绝过多请求
-
熔断
- 中断请求路径,增加冷却时间从而让故障实例尝试恢复
-
过载保护
- 在负载高的实例中,主动拒绝一部分请求,防止实例被打挂
-
降级
- 服务处理能力不足时,拒绝低级别的请求,只响应线上高优请求
重试策略
-
限制重试比例
- 设定一个重试比例阈值(例如 1%),重试次数占所有请求比例不超过该阈值
-
防止链路重试
- 限制每层都重试,可以返回特殊的 status code,表示“请求失败,但别重试”
-
Hedged Requests
- 对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应
微服务架构核心要素
服务治理:服务注册,发现、负载均衡、扩缩容、流量治理、稳定性治理
可观测性:日志采集、日志分析、监控打点、监控大盘、异常报警、链路追踪
安全:身份验证、认证授权、访问令牌、审计、传输加密、黑客攻击