【微服务架构】微服务架构介绍-原理及特征-核心服务治理功能-实践 | 青训营笔记

Asan3
223 阅读5分钟

这是我参与「第五届青训营」伴学笔记创作活动的第 9 天，今天学习的内容是关于微服务架构介绍、原理及特征、核心服务治理功能、实践，根据课程内容整理学习笔记如下。

7 微服务架构 - 不变的基建

7.1 微服务架构介绍

7.1.1 系统架构的演进历史

  • 单体架构

    • All in one process

  • 垂直应用架构

    • 按照业务线垂直划分

  • 分布式架构

    • 抽出与业务无关的公共模块

  • SOA架构

    • 面向服务

  • 微服务架构

    • 彻底的服务化

7.1.2 微服务架构概览

  • 网关
  • 服务配置和治理
  • 链路追踪和监控（分布式架构 - 不同机器调用，追踪调用）

image.png

7.1.3 微服务架构的三大要素

  • 服务治理（本课程内容）

    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理

  • 可观测性

    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪

  • 安全

    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击

7.2 微服务架构原理及特征

7.2.1 微服务架构中的基本概念及组件

  • 服务(service)：一组具有相同逻辑（运行同一段代码）的运行实体（实例）
  • 实例(instance)：一个服务中，每个运行实体即为一个实例
  • 实例与进程的关系：实例与进程之间没有必然的对应关系，可以一个实例对应一个或多个进程（反之不常见）
  • 集群(cluster)：通常指服务内部的逻辑划分，包含多个实例
  • 常见的实例承载形式（进程、VM、k8s pod......）
  • 有状态/无状态服务：服务的实例是否存储了可持久化的数据（例如磁盘文件）

image.png

7.2.2 服务间通信

  • 对于单体服务，不同模块通信只是简单的函数调用
  • 微服务之间通过网络进行通信
  • 常见的通信协议包括 HTTP、RPC

image.png

7.2.3 服务注册及服务发现

基本问题 - 服务间调用中，在代码层面如何指定下游服务实例的地址？

简单方案

  • 直接指定 ip:port？

    • 没有任何动态能力
    • 有多个实例下游实例怎么办？

  • 使用 DNS？

    • 本地 DNS 存在缓存，导致延迟
    • DNS 没有负载均衡
    • 不支持服务实例的探活检查
    • DNS 不能指定端口
服务注册发现

新增一个统一的服务注册中心，用于存储服务名到服务实例之间的映射关系

  • 旧服务实例下线前，从服务注册中心删除该实例，下线流量
  • 新服务实例上线后，在服务注册中心注册该实例，上线流量

image.png

微服务流量特征
  • 统一网关入口
  • 外网通信多数采用 HTTP，内网通信多数采用 RPC（Thrift, gRPC）
  • 网状调用链路

image.png

7.3 核心服务治理功能

7.3.1 服务发布(deployment)

服务发布，即指让一个服务升级运行新的代码的过程。

  • 服务发布难点

    • 服务不可用（直接断掉，全部不可用）
    • 服务抖动（部分断掉，不可用）
    • 服务回滚（回滚到之前没有问题的版本）

  • 蓝绿部署

    • 将服务分成两个部分，分别先后发布（分流）
    • 简单、稳定
    • 但需要两倍资源（或在流量低峰用一半机器承担两倍流量）

    image.png

  • 灰度发布（金丝雀发布）

    • 先发布少部分实例，接着逐步增加发布比例
    • 不需要增加资源
    • 回滚难度大，基础设施要求高

    image-20230202175907627.png

7.3.2 流量治理

  • 流量控制

    • 在微服务架构中，可以从各个维度对端到端的流量在链路上进行精确控制

  • 控制维度

    • 地区维度
    • 集群维度
    • 实例维度
    • 请求维度

7.3.3 负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布

  • Round Robin
  • Random
  • Ring Hash
  • Least Request

7.3.4 稳定性治理

线上服务总是会出问题的，这与程序的正确性无关（网络攻击、流量突增、机房断电、光纤被挖、机器故障、网络故障、机房空调故障、......）

  • 限流： 限制服务处理的最大 QPS，拒绝过多请求

  • 熔断： 中断请求路径，增加冷却时间从而让故障实例尝试恢复

  • 过载保护： 在负载高的实例中，主动拒绝一部分请求，防止实例被打挂

  • 降级： 服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求

image-20230202190601719.png

7.4 字节跳动服务治理实践

7.4.1 请求重试的意义

  • 本地函数调用

    • 异常情况： 参数非法，OOM (Out of Memory)，NPE (Null Pointer Exception)，边界case，系统崩溃，死循环，程序异常退出
    • 通常没有重试意义

  • 远程函数调用

    • 异常情况： 网络抖动，下游负载高，下游机器宕机，本地机器负载高调度超时，下游熔断、限流，......
    • 重试是有意义的，可以避免偶发性的错误，提高 SLA (Service-Level Agreement)

  • 重试的意义

    • 降低错误率
    • 降低长尾延时（对于偶尔耗时较长的请求，重试请求有机会提前返回）
    • 容忍暂时性错误（某些时候系统有暂时性异常，如网络抖动等）
    • 避开下游故障实例（一个服务中可能会有少量实例故障，如机器故障等，重试其他实例可以成功）

7.4.2 请求重试的难点

  • 幂等性

    • POST 请求可以重试吗？

  • 重试风暴

    • 随着调用链路的增加，重试次数呈指数级上升

    image-20230202192249757.png

  • 超时设置

    • 假设调用时间一共1s，经过多少时间开始重试？

7.4.3 重试策略

  • 限制重试比例

    • 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值

    image-20230202192501880.png

  • 防止链路重试

    • 链路层面的防重试风暴的核心是限制每层都发生重试
    • 返回特殊的 status code，表示“请求失败，但别重试”

    image-20230202192602519.png

  • Hedged Requests

    • 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应

    image-20230202192743525.png

7.4.4 重试效果验证

字节跳动重试组件能够极大限制重试发生的链路放大效应

image-20230202193111389.png

avatar
文章
阅读
粉丝