这是我参与「第五届青训营 」笔记创作活动的第十一天

微服务架构

一、微服务架构介绍

演变历史

单体架构

• 优势
  • 性能最高
  • 冗余小
• 缺点
  • debug困难
  • 模块相互影响
  • 模块分工、开发流程

垂直应用架构

按照业务垂直划分

• 优点
  • 业务独立开发维护
• 缺点
  • 不同业务存在冗余
  • 每个业务还是单体

分布式架构

抽出业务无关的公共模块

• 优点
  • 业务无关的独立服务
• 缺点
  • 服务一个模块bug会导致全站崩溃
  • 调用关系复杂
  • 不同服务冗余

SOA架构

面向服务

• 优点
  • 服务注册
• 缺点
  • 整个系统设计是中心化的
  • 需要从上至下设计
  • 重构困难

微服务架构

彻底的服务化

• 优点
  • 开发效率
  • 业务独立设计
  • 自下而上
  • 故障隔离
• 缺点
  • 治理、运维难度
  • 观测挑战
  • 安全性
  • 分布式系统

核心

• 服务治理
• 可观测性
• 安全

二、微服务架构原理及特征

服务间通信

对于单体服务，不同模块间的通信只是简单的函数调用 对于微服务，服务间通信意味着网络传输

服务注册与发现

新增一个统一的服务注册中心，用于存储服务名到服务实例的映射

三、核心服务治理功能

服务发布

难点

• 服务不可用
• 服务抖动
• 服务回滚

蓝绿部署

简单但是需要两倍资源

灰度发布

流量治理

在微服务架构下，我们可以基于地区、集群、实例、请求等维度对端到端流量的路由路径进行精确控制

负载均衡

负载均衡负责分配请求在每个下游实例上的分布

稳定性治理

线上服务总会出现问题的，这与程序的正确性无关

• 限流
• 熔断
• 过载保护
• 降级

四、字节跳动服务治理实践

重试

本地函数调用失败重试基本没有意义 远程函数调用失败重试是有意义的 重试可以避免偶发的错误，提高SLA

意义

• 降低错误率
• 降低长尾延时
• 容忍暂时性错误
• 避开下游故障实例

难点

• 幂等性
• 重试风暴
• 超时设置

重试策略

• 设定一个重试比例阈值，重试次数占所有请求比例不超过该阈值
• 防止链路重试 链路层面的防重试风暴的核心是限制每层都发生重试，理想情况下只有最下一层发生重试可以返回特殊的 status 表明“请求失败，但别重试”。
• Hedged requests 对于可能超时(或延时高)的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。