【微服务架构 | 青训营笔记】

梦游呢
87 阅读3分钟

这是我参与【第五届青训营】伴学笔记创作活动的第十一天。今天就写一下在青训营学的微服务架构有关的理论知识以及服务治理相关的措施与实践。

image.png

微服务架构

微服务架构是当前大多数互联网公司的标准架构，应用广泛。

微服务架构介绍

系统架构演变史

单体架构 -> 垂直应用架构 -> 分布式架构 -> SOA架构 -> 微服务架构

微服务架构概览

1.png

微服务架构核心要素

  1. 服务治理（服务注册发现、负载均衡、流量治理等）
  2. 可观测性（日志采集分析、监控打点、链路追踪、异常报警等）
  3. 安全（身份认证、审计、传输加密、黑产攻击等）

微服务架构原理及特征

可参考文章： 【微服务 + RPC | 青训营笔记】 - 掘金 (juejin.cn)

基本概念

  1. 服务（service）：一组具有相同逻辑的运行实体
  2. 实例（instance）：一个服务中，每个运行实体即为一个实例
  3. 集群（cluster）：通常指服务内部的逻辑划分，包含多个实例
  4. 有状态 & 无状态服务：服务的实例是否存储可持久化数据
2.png

服务间通信

对于微服务，服务间通信意味着网络传输。

3.png

服务注册

  1. client := grpc.NewClient("10.23.45.67:8080") 只能连接一个服务的某个实例。

  2. 连接整个服务可采用：

    • net.Dial("b.service.org:8080")
    • b.service.org 存储该服务所有实例的端口
    • 缺点：本地 DNS 存在缓存导致延时、负载均衡问题、域名无法配置端口等

  3. 解决思路：

    新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。

    4.png

流量特征

5.png

  • 统一网关入口
  • 外网 Http, 内网 RPC

核心服务治理功能

服务发布

  1. 定义：指一个服务升级运行新的代码的过程

  2. 难点：

    • 服务不可用
    • 服务抖动
    • 服务回滚

  3. 解决方案：

    • 蓝绿部署（分蓝区和绿区，升级的时候切换为另一区。主要缺陷为两倍资源）
    • 灰度发布（一个个发布并测试，试探性。主要缺点为错误回滚）

流量治理

在微服务架构下，我们可以基于地区、集群、实例、请求等维度，对端对端的路由路径进行精确控制。

6.png

负载均衡

  1. 定义：负责分配请求在每个下游实例上的分布。
  2. 常见策略：Round Robin、Random、Ring Hash 等

稳定性治理

  1. 问题：线上服务总是会出问题，这与程序正确性无关。（网络攻击，流量突增，端点，机器故障等）
  2. 措施：限流、熔断、过载保护、降级（优先级等）。

服务治理实践—重试

重试的意义

  1. 本地函数调用常见异常

    • 参数非法
    • 空指针异常
    • 内存超限

  2. 远程函数调用常见异常

    • 网络抖动
    • 下游机器宕机
    • 本地机器负载高、调度超时

  3. 重试的意义：

    • 可以避免掉偶发的错误来降低错误率
    • 降低长尾延时（对于偶尔耗时长的请求，重试有机会提前返回）
    • 容忍暂时性错误
    • 避开下游故障实例（重试其他实例）

重试的问题

  1. 幂等性

  2. 超时设置（时间设置是难点）

  3. 重试风暴（无脑重试且链路过长导致下游极其重试次数过多）

    7.png

重试的策略

  1. 限定重试比例阈值

    8.png

  2. 防止链路重试

  3. Hedged requests （对于可能超时的请求，重新发一个，等先返回的请求）

avatar
文章
阅读
粉丝