微服务架构及原理 | 青训营笔记

小小浩
54 阅读5分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 10天，这次主要学习的是微服务架构的原理和相关概念，除此之外还涉及服务发布、服务治理、负载均衡等方面。

微服务架构介绍

系统架构的演进历史

随着互联网的爆炸性发展、硬件设施的快速发展、需求复杂性的多样化、开发人员的急剧增加以及计算机理论的技术的发展，系统架构也需要不断的演进，下面是架构演进的历史：

image.png

单体架构

All in one process

image.png

优点：

  • 性能高，冗余小

缺点：

  • debug困难
  • 耦合
  • 模块分工及开发流程困难

垂直应用架构

image.png 按照业务线垂直划分

优点：

  • 业务独立开发维护

缺点：

  • 不同业务存在冗余
  • 每个业务还是单体

分布式架构

image.png

抽出与业务无关的公共模块

优点：

  • 业务无关的独立服务

缺点：

  • 服务模块bug可导致全站瘫痪
  • 调用关系复杂
  • 不同服务冗余

SOA架构

面向服务

image.png 优点

  • 服务注册

缺点

  • 整个系统设计是中心化的
  • 需要从上至下设计
  • 重构困难

微服务架构

image.png 彻底的服务化

优点：

  • 开发效率
  • 业务独立设计
  • 自下而上
  • 故障隔离

缺点：

  • 治理、运维难度
  • 观测挑战
  • 安全性
  • 分布式系统

image.png

微服务架构的三大要素

  • 服务治理

    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理

  • 可观测性

    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪

  • 安全

    • 身份验证

    • 认证授权

    • 访问令牌

    • 审计

    • 传输加密

    • 黑产攻击

微服务架构原理及特征

微服务架构中的基本概念及组件

image.png

服务：一组具有相同逻辑的运行实体

实例：一个服务中的每个运行实体

实例与进程的关系：没有必然对应关系，一般一对一或者一对多

常见的实例承载形式：进程、VM、k8s pod......

服务间通信

  • 微服务之间通过网络进行通信
  • 常见的通信协议包括 HTTP、RPC

image.png

服务注册及服务发现

基本问题

服务间调用中，如何指定下游服务实例的地址？

简单方案

直接指定 ip:port？

  • 没有任何动态能力（即实例ip的变化不能及时发现）
  • 有多个实例下游实例怎么办？（无法负载均衡）

使用 DNS？

  • 本地 DNS 存在缓存，导致延迟
  • DNS 没有负载均衡
  • 不支持服务探活检查
  • DNS 不能指定端口

解决：新增一个统一的服务注册中心，用于存储服务名到服务实例之间的映射关系

image.png

旧服务实例下线前，从服务注册中心删除该实例，下线流量

新服务实例上线后，在服务注册中心注册该实例，上线流量

微服务流量特征

image.png

  • 统一网关入口
  • 外网通信多数采用 HTTP，内网通信多数采用 RPC（Thrift, gRPC）
  • 网状调用链路
  • api Gateway可以做身份认证，将token附在请求上

核心服务治理功能

服务发布

何为服务发布？

让一个服务升级运行新的代码的过程

服务发布难点

  • 服务不可用

image.png

  • 服务抖动

image.png

  • 服务回滚

image.png

蓝绿部署

将服务分成两个部分，分别先后发布

  • 简单、稳定
  • 但需要两倍资源

主要过程：

image.png

将服务分为两部分

image.png

停掉绿色部分服务

image.png

升级并上线

image.png

再停掉蓝色部分

image.png

升级并上线

灰度发布（金丝雀发布）

先发布少部分实例，接着逐步增加发布比例

  • 不需要增加资源
  • 回滚难度大，基础设施要求高

主要过程

image.png

流量治理

流量控制

在微服务架构中，可以从各个维度对端到端的流量在链路上进行精确控制

image.png

控制维度

  • 地区维度
  • 集群维度
  • 实例维度
  • 请求维度

负载均衡

Round Robin(轮询)

Random（随机）

Ring Hash（一致性hsah）

Least Request（最小请求数）

稳定性治理

限流

限制服务处理的最大 QPS，拒绝过多请求

image.png

熔断

中断请求路径，增加冷却时间从而让故障实例尝试恢复

image.png

过载保护

在负载高的实例中，主动拒绝一部分请求，防止实例被打挂

image.png

降级

服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求

image.png

字节跳动服务治理实践

  • 请求重试的意义

    • 本地函数调用

      • 通常没有重试意义

    • 远程函数调用

      • 网络抖动、下游负载高、下游机器宕机......
      • 重试是有意义的，可以避免偶发性的错误，提高 SLA

    • 重试的意义

      • 降低错误率
      • 降低长尾延时
      • 容忍暂时性错误
      • 避开下游故障实例

  • 请求重试的难点

    • 幂等性

      • POST 请求可以重试吗？
      • 多次请求可能数据不一致

    • 重试风暴

image.png

  • 随着调用链路的增加，重试次数呈指数级上升
-   超时设置

    -   假设调用时间一共1s，经过多少时间开始重试？

  • 重试策略

    • 限制重试比例

      • 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值

image.png - 防止链路重试

    -   返回特殊的 status code，表示“请求失败，但别重试”

image.png

-   Hedged Requests

    -   对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应

image.png

  • 重试效果验证

    • 字节跳动重试组件能够极大限制重试发生的链路放大效应

avatar
文章
阅读
粉丝