微服务架构原理与治理实践 | 青训营笔记

90 阅读4分钟

这是我参与「第五届青训营」笔记创作活动的第15天!

微服务架构介绍

架构演变历史

  • 互联网的爆炸性发展
  • 硬件设施的快速发展
  • 需求复杂性的多样化
  • 开发人员的急剧增加
  • 计算机理论及技术的发展 image.png

单体架构

image.png

优势:

  • 性能最高
  • 冗余小

劣势:

  • debug困难
  • 模块互相影响
  • 模块分工、开发流程

垂直应用架构

按照业务线垂直划分

image.png

优势:

  • 业务独立维护开发

劣势:

  • 不同业务存在冗余
  • 每个业务还是单体

分布式架构

抽出业务无关的公共模块 image.png

优势:

  • 业务无关的独立服务

劣势:

  • 服务模块bug可导致全站瘫痪
  • 调用关系复杂
  • 不同服务冗余

SOA架构

面向服务 image.png

优势:

  • 服务注册

劣势:

  • 整个系统设计是中心化的
  • 需要从上至下设计
  • 重构困难

微服务架构

彻底的服务化

image.png

优势:

  • 开发效率
  • 业务独立设计
  • 自上而下
  • 故障隔离

劣势:

  • 治理、运维难度
  • 观测挑战
  • 安全性
  • 分布式系统

核心要素

  • 服务治理
  • 可观测性
  • 安全

微服务架构原理及特征

基本概念

  • 服务:一组具有相同逻辑的运行实体。
  • 实例:一个服务中,每个运行实体即为一个实例。
  • 实例与进程的关系:实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程(反之不常见)。
  • 集群:通常指服务内部的逻辑划分,包含多个实例。
  • 常见的实例承载形式:进程、VM、k8s pod ..
  • 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)。
  • 服务间通信:对于单体服务,不同模块通信只是简单的函数调用。对于微服务,服务间通信意味着网络传输。

服务注册及发现

问题:在代码层面,如何制定调用一个目标服务的地址?

解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射

服务实例上线及下线的例子——见PPT‌​​‬⁢​⁡⁣⁡⁤⁢⁢​⁢​​⁢‍‌⁡​‌​‍⁡⁢⁢​⁣⁡⁤⁡​⁡‍⁣‌⁢⁤⁣‬⁡⁢⁤‬⁡微服务架构原理与治理实践 .pptx - 飞书云文档 (feishu.cn)

流量特征

  • 统一网关入口
  • 内网通信多数采用PRC
  • 网络调用链路

核心服务治理功能

服务发布

服务发布:指让一个服务升级运行新的代码的过程

难点

  • 服务不可用
  • 服务抖动
  • 服务回滚

解决方案

  • 蓝绿部署(简单,稳定。但需要两倍资源)
  • 灰度发布(金丝雀发布)

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制

负载均衡

负载均衡负责分配请求在每个下游实例上的分布

常见的LB策略

  • Round
  • RobinRandom
  • Hash
  • Least Request

稳定性治理

指线上服务有时会出现一些问题,与程序的正确性无关(比如网络攻击、机房断电等)

典型功能

  • 限流
  • 熔断
  • 过载保护
  • 降级

字节服务治理实践

重试的意义和难点

意义

  • 可以避免掉偶发的错误,提高SLA (Service-Level Agreement)
  • 降低错误率
  • 降低长尾延时
  • 容忍暂时性错误
  • 避开下游故障实例

难点

  • 幂等性
  • 重试风暴
  • 超时设置

重试策略

  • 限制重试比例:设定一个重试比例阈值(例如1%),重试次数占所有请求比例不超过该阈值。
  • 防止链路重试:链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。可以返回特殊的status表明“请求失败,但别重试"。
  • Hedged requests:对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。

总结

这节课学习了微服务的架构,对微服务有了更深入的了解,同时对其原理和特征也进行了学习。在了解微服务原理的基础上,又学习了核心服务的治理,最后通过对字节的服务治理实践进行了系统的总结。