微服务架构 - 不变的基建 | 青训营笔记

乌云暮年
103 阅读6分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 10 天

前言

这是我将参加青训营期间的收获进行整理和总结，同时便于日后复习和查阅。如果能给各位小伙伴提供些帮助，也是我的荣幸，希望大家可以多多赐教，一起学习和交流。

本篇主要内容：

  • 微服务架构介绍
  • 微服务架构原理及特征
  • 核心服务治理功能
  • 字节跳动服务治理实践

微服务架构介绍

01.系统架构演变历史

系统架构的演进历史

  • 单体架构

    • 优势：性能最高、冗余小
    • 劣势：debug困难、模块相互影响、模块分工、开发流程

  • 垂直应用架构

    • 优势：业务独立开发维护
    • 劣势：不同业务存在冗余、每个业务还是单体

  • 分布式架构

    • 优势：业务无关的独立服务
    • 劣势：服务模块bug可导致全站瘫痪、调用关系复杂、不同服务冗余

  • SOA架构

    • 优势：服务注册
    • 劣势：整个系统设计是中心化的、需要从上至下设计、重构困难

  • 微服务架构

    • 优势：开发效率提高、独立部署、易扩展、自下而上、故障隔离
    • 劣势：治理、运维难度、观测挑战、安全性、分布式系统

02.微服务架构的定义

微服务架构中需要考虑决策模型由多个模式组成。从层次上大致可分为应用相关、应用基础相关、基础设施相关三大层。

  • 应用相关模式: 服务拆分、数据库的架构、维护数据一致性问题、测试相关；
  • 应用基础设施相关模式: 边界问题、安全性、事务性消息、通信风格、可靠性、可监测性；
  • 基础设施相关模式: 应用/服务的部署、服务发现等。

微服务架构.png

03.微服务架构核心要素

  • 服务治理

    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理

  • 可观测性

    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪

  • 安全

    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击

微服务架构原理及特征

01.基本概念

服务（service）

  • 一组具有相同逻辑的运行实体。

实例（instance）

  • 一个服务中，每个运行实体即为一个实例。

实例与进程的关系

  • 实例与进程之间没有必然对应关系，一个实例可以对应一个或多个进程。

集群（cluster）

  • 通常指服务内部的逻辑划分，包含多个实例。

常见的实例承载形式

  • 进程、VM、k8s pod ……

有状态 / 无状态服务

  • 服务的实例是否存储了可持续化的数据（例如磁盘文件）。

服务间通信

  • 对于单体服务，不同模块通信只是简单的函数调用。

  • 对于微服务，复位键通信意味着网络传输。

02.服务注册及服务发现

  • 问题：

    • 在代码层面，如何指定调用一个目标服务的地址（ip:port）？

  • 方案：

    • 使用DNS？

      • 本地 DNS 存在缓存，导致延时。
      • 负载均衡问题。
      • 不支持服务实例的探活检查。
      • 域名无法配置端口。

  • 服务注册发现

    • 新增一个统一的服务注册中心，用于存储服务名服务实例的映射。

      // I want to call service B
addrs = svc_reg.find("service.b")net.Dial(addrs[random(n)])

    • 旧服务实例下线前，从服务注册中心删除该实例，下线流量。

    • 新服务实例上线后，在服务注册中心注册该实例，上线流量。

  • 微服务流量特征

    • 统一网关入口
    • 内网通信多数采用RPC
    • 网状链路

核心服务治理功能

01.服务发布

服务发布（deployment）

  • 即指让一个服务升级运行新的代码的过程。

服务发布的难点：

  • 服务不可用：升级直接导致服务不可使用。
  • 服务抖动：服务升级重新启动中导致的服务短暂不可用。
  • 服务回滚：倒回到上一个版本。

蓝绿部署：

  • 将服务分为两部分发布
  • 简单、稳定，但需要两倍资源

灰度发布（金丝雀发布）

  • 先发布少部分，接着逐步增加发布比例
  • 不要增加资源
  • 回滚难度大，基础设施要求高

02.流量治理/控制

流量控制

  • 在微服务架构中，可以各个维度对端到端流量的链路上进行精确控制。

控制维度

  • 地区维度
  • 集群维度
  • 实例维度
  • 请求维度

03.负载均衡

负载均衡（Load Balance）负载分配请求在每个下游实例上的分布。

常见的 LB 策略

  • Round Robin
  • Random
  • Ring Hash
  • Least Request
  • ……

04.稳定性治理

微服务架构中典型的稳定性治理功能

  • 限流

    • 限制服务处理的最大 QPS，拒绝过多请求

  • 熔断

    • 中断请求路径，增加冷却时间从而让故障实例尝试恢复

  • 过载保护

    • 在负载高的实例中，主动拒绝一部分请求，防止实例被打挂

  • 降级

    • 服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求

字节跳动服务治理实践

01.重试的意义

重试可以避免掉偶发的错误，提高 SLA （Service-Level Agreement）

  • 降低错误率

    • 假设单次请求的错误概论为0.01，那么连续两次错误概率则为0.0001.

  • 降低长尾延时

    • 对于偶尔耗时较长的请求，重试请求有机会提前返回。

  • 容忍暂时性错误

    • 某些时候系统会有暂时性异常（例如网络抖动），重试可以尽量规避。

  • 避开下游故障实例

    • 一个服务中可能会有少量实例故障（例如机器故障），重试其他实例可以成功。

02.重试的难点

  • 幂等性：

    • 多次请求可能造成数据不一致

  • 重试风暴：

    • 随着调用深度的增加，重试次数会指数级上涨

  • 超时设置：

    • 假设一个调用正常是1s的超时时间，如果允许一次重试，那么第一次请求经过多少时间时，才开始重试呢？

03.重试策略

  • 限制重试比例：

    • 设定一个重试比例阈值（例如1%），重试次数占所有请求比例不超过该阈值。

  • 防止链路重试：

    • 返回特殊的 status code，表示”请求失败，但别重试“

  • Hedged Requests：

    • 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。

04.重试效果验证

  • 字节跳动重试组件能够极大限制重试发生的链路放大效应 重试效果验证.png

引用

avatar
文章
阅读
粉丝