微服务架构 | 青训营笔记

79 阅读4分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 9 天

课程主要学习了微服务架构及治理相关的知识:
1. 微服务架构介绍
2. 微服务架构原理及特征
3. 核心服务治理功能
4. 字节跳动服务治理实践
注:笔记图片来自课程截图,如有侵权,请联系删除

1.微服务架构介绍

系统架构的演进是因为互联网的爆炸性发展、硬件设施的快速发展、需求复杂性的多样化、开发人员的急剧增加、计算机理论及技术的发展。 演变历史:单体架构->垂直应用架构->分布式架构->SOA架构->微服务架构。 微服务架构概览: image.png 核心要素包括服务治理、可观测性以及安全。

2.微服务架构原理及特征

基本概念:

  • 服务:一组具有相同逻辑的运行实体。
  • 实例:一个服务中,每个运行实体即为一个实例。
  • 实例与进程的关系:实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程(反之不常见)。
  • 集群:通常指服务内部的逻辑划分,包含多个实例。
  • 常见的实例承载形式进程、VM、k8s pod.....
  • 有状态/无状态服务服务的实例是否存储了可持久化的数据(例如磁盘文件)。 对于单体服务,不同模块通信只是简单的函数调用。对于微服务,服务间通信意味着网络传输。

image.png 服务注册与发现,将服务统一注册在服务注册中心,服务注册中心用于存储服务名到服务实例的映射。

服务实例上线及下线的过程。下线时,先将服务注册中心注册的实例地址删除,那么所有流量将流入另外的实例,在进行删除实例。上线时,添加的新实例先进行自我健康检查,然后再注册到服务注册中心。

3.核心服务治理功能

服务发布会面临服务不可用,服务抖动和服务回滚等问题。为了保证服务正常运行,可以采用蓝绿部署或者灰度发布。

image.png

image.png

流量治理在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。

负载均衡负责分配请求在每个下游实例上的分布。

稳定性治理包括:限流、熔断、过载保护以及降级。

image.png

4.字节跳动服务治理功能

重试的意义在于:

  • 降低错误率:假设单次请求的错误概率为0.01,那么连续两次错误概率则为0.0001。
  • 降低长尾延时:对于偶尔耗时较长的请求,重试请求有机会提前返回。
  • 容忍暂时性错误:某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避。
  • 避开下游故障实例:一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。 但是默认不用,因为可能会影响
  • 幂等性:多次请求可能会造成数据不一致
  • 重试风暴:随着调用链路深度的增加,重试次数会指数级上涨
  • 超时设置:假设一个调用正常是1s的超时时间,如果允许一次重试,那么第一次请求经过多少时间时,才开始重试难以抉择 重试的策略:
  • 限制重试比例:设定一个重试比例阈值(例如1%),重试次数占所有请求比例不超过该阈值。
  • 防止链路重试:链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。 可以返回特殊的status 表明“请求失败,但别重试”。
  • Hedged requests:对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。

总结

学习了微服务架构服务注册发现以及服务治理相关知识。