day15 微服务架构 | 青训营笔记

yeyr2
84 阅读6分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 15 天.

一.微服务介绍

1.系统架构的演进历史

单体架构

  • All in one process
  • 优势
    • 性能最高
    • 冗余小
  • 劣势
    • debug困难
    • 模块相互影响
    • 模块分工,开发流程

垂直应用架构

  • 按照业务线垂直划分
  • 优势
    • 业务独立开发维护
  • 劣势
    • 不同业务存在冗余
    • 每个业务还是单体

分布式架构

  • 抽出与业务无关的公共模块
  • 优势
    • 业务无关的独立服务
  • 劣势
    • 服务模块bug可导致全站瘫痪
    • 调用关系复杂
    • 不同服务冗余

SOA架构

  • 面向服务(多了一个服务注册中心)
  • 优势
    • 服务注册
  • 劣势
    • 整个系统设计是中心化的
    • 需要从上至下设计
    • 重构困难

微服务架构

  • 彻底的服务化
  • 优势
    • 开发效率
    • 业务独立设计
    • 自下而上
    • 故障隔离
  • 劣势
    • 治理、运维难度
    • 观测跳转
    • 安全性
    • 分布式系统

2.微服务架构概览

  • 网关
  • 服务配置和治理
  • 链路追踪和监控

image.png

3.微服务架构的三大要素

  • 服务治理

    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理

  • 可观测性

    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪

  • 安全

    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击

二.微服务架构原理及特征

1.微服务架构中的基本概念及组件

  • 服务(service)

    • 一组具有相同逻辑的运行实体

  • 实例(instance)

    • 一个服务中的每个运行实体

  • 实例与进程的关系

    • 没有必然对应关系，一般一对一,或者一对多,多对一不常见

  • 集群

    • 通常指服务内部的逻辑划分,包含多个实例.

  • 常见的实例承载形式

    • 进程、VM、k8s pod......

  • 有状态/无状态服务

    • 服务的实例是否存储了可持久化的数据(例如磁盘文件).

如果把HDFS看成一个微服务.

image.png

NameNode为一个服务,DataNode为另一个服务.
NameNode在某一个时刻只能有一个实例.

2.服务间通信

  • 单体服务,不同模块通信只是简单的函数调用
  • 微服务之间通过网络进行通信
  • 常见的通信协议包括 HTTP、RPC

image.png

3.服务注册及服务发现

  • 基本问题

    • 在代码层面,如何指定调用一个目标服务的地址(ip:addr)?

  • 简单方案

    • 直接指定 ip:port？

      client := grpc.NewClient("10.23.45.67:8080")

      • 没有任何动态能力
      • 有多个目标实例怎么办？

    • 使用 DNS？

      将需要访问的服务器的地址注册上去.

      • 本地 DNS 存在缓存，导致延迟
      • DNS 没有负载均衡
      • 不支持服务探活检查
      • DNS 不能指定端口

  • 服务注册发现

    • 新增一个统一的服务注册中心，用于存储服务名到服务实例之间的映射关系 image.png
    • 旧服务实例下线前，从服务注册中心删除该实例，下线流量
    • 新服务实例上线后,进行健康检查,查看实例是否正常，如果正常,就在服务注册中心注册该实例，上线流量

  • 微服务流量特征

    • 统一网关入口
    • 外网通信多数采用 HTTP，内网通信多数采用 RPC（Thrift, gRPC）
    • 网状调用链路

三.核心服务治理功能

1.服务发布

  • 何为服务发布

    • 让一个服务升级运行新的代码的过程

  • 服务发布难点

    • 服务不可用
    • 服务抖动
    • 服务回滚

  • 蓝绿部署

    要发布服务B,将服务B分为两个服务集群X和Y,要升级服务,就把X流量切掉切到Y,使用Y,然后升级X,然后切掉Y流量,使用X,升级Y.

    • 将服务分成两个部分，分别先后发布
    • 简单、稳定
    • 但需要两倍资源

  • 灰度发布（金丝雀发布）

    在上线前不断测试服务是否运行正常,先加个项目测试,在去掉一个老项目再测试,然后逐渐替换测试.

    • 先发布少部分实例，接着逐步增加发布比例
    • 不需要增加资源
    • 回滚难度大，基础设施要求高

2.流量治理

image.png

  • 流量控制

    • 在微服务架构中，可以从各个维度对端到端的流量在链路上进行精确控制

  • 控制维度

    • 地区维度
    • 集群维度
    • 实例维度
    • 请求维度

3.负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布.

  • 常见的LB策略

    • Round Robin
    • Random
    • Ring Hash
    • Least Request

4.稳定性治理

线上服务总会出问题,这与程序的正确性无关.

  • 可能出现的问题:

    • 网络攻击
    • 流量突增
    • 机房断电
    • 光纤被挖
    • 机器故障
    • 网络故障
    • 机房空调故障
    • ......

  • 治理方法

    • 限流
      • 限制服务处理的最大 QPS，拒绝过多请求
    • 熔断
      • 中断请求路径，增加冷却时间从而让故障实例尝试恢复
    • 过载保护
      • 在负载高的实例中，主动拒绝一部分请求，防止实例被打挂
    • 降级
      • 服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求

四.字节跳动服务治理实践

1.请求重试的意义

本地函数调用

  • 可能的异常

    • 非法参数
    • OOM(Out Of Memory)
    • NPE(Null Pointer Exception)
    • 边界case
    • 程序崩溃
    • 程序异常退出

  • 通常没有重试意义

远程函数调用

  • 可能的异常:

    • 网络抖动
    • 下游负载高导致超时
    • 下游机器宕机
    • 本地机器负载高、调度超时
    • 下游熔断、限流

  • 重试是有意义的，可以避免偶发性的错误，提高 SLA(Service-Level Agreement)。

  • 重试的意义

    • 降低错误率
    • 降低长尾延时
    • 容忍暂时性错误
    • 避开下游故障实例

2.请求重试的难点

  • 幂等性

    • 幕等性:任意多次执行所产生的影响均与一次执行的影响相同。
    • POST 请求可以重试吗？

  • 重试风暴

    • 随着调用链路的增加，重试次数呈指数级上升 image.png

  • 超时设置

    • 假设调用时间一共1s，经过多少时间开始重试？

3.重试策略

  • 限制重试比例

    • 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值

  • 防止链路重试

    • 限制每层都发生重试,理想情况下只有最下一层发生重试,返回特殊的 status code，表示“请求失败，但别重试”

  • Hedged Requests

    • 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应

    image.png

4.重试效果验证

  • 字节跳动重试组件能够极大限制重试发生的链路放大效应

image.png

参考

掘金课程:微服务架构原理及特征

avatar
文章
阅读
粉丝