这是我参与「第五届青训营 」伴学笔记创作活动的第 7 天

架构的定义

• 有关软件整体结构与组件的抽象描述
• 用于指导软件系统各个方面的设计

单机：把所有功能都实现在一个进程里，并部署在一台机器上

• C10K问题
• 运维需要停服

单体架构：分布式部署。

垂直应用架构：按应用切分的单体

• 水平扩容、运维不需要停服
• 职责太多，开发效率不高。爆炸半径大

SOA架构

• 将应用在不同功能单元抽象为服务
• 定义服务之间的通信标准

微服务架构：SOA的去中心化演进方向

问题：

数据一致性、高可用性、治理、解耦 vs 过微

企业级后端架构剖析

云计算： 通过软件自动化管理，提供计算资源的服务网站，是现在互联网大规模熟悉分析和存储的基石

云原生：

DevOps： 云原生时代软件交付的利器，提供每个阶段的快速开发、测试、回滚等的解决方案

软件的生命周期：

微服务架构：

通信标准：HTTP（Restful API）、RPC（Thrift、gRPC）

微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做

服务网络：

• 微服务之间通讯的中间层
• 高性能网络代理
• 业务代码与治理解耦

企业级后端架构的挑战

挑战：

• 基础设施层面

  • 物理资源有限：机器、带宽
  • 资源利用率受制于部署服务

• 用户层面

  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下，不同实例资源水位不均

核心收益：降低物理资源成本、提供更多的弹性资源，增加收入——解决思路：离在线资源并池

在线服务的特点：IO密集型为主、潮汐性、实时性

离线服务的特点：计算密集型占多数、非实时性

同一个机器怎么做在线隔离：离线资源用离线进程，在线资源用在线进程，用CGroup或虚拟化方式对CPU核心做隔离，离线使用离线CPU，在线使用在线CPU

自动扩缩容：利用在线业务潮汐性自动扩缩容。但是基于IO进行扩缩容比较难

扩缩容指标：使用CPU某一个统计的分位数

另一种方式：微服务亲和性部署

将满足亲和性条件的容器调度到一台宿主机。微服务中间件与服务网格通过共享内存通信。服务网格控制面实施灵活、动态的流量调度

核心收益：提高微服务调用容错性、容灾、进一步提高开发效率，DevOps发挥到极致

第三种方式：基于微服务中间件 & 服务网格的流量治理

核心收益：打平异构环境算力差异，为自动扩缩容提供正向输入

解决思路：CPU水位均衡

IaaS：提供资源探针；服务网格：动态负载均衡。

后端架构实战

CPU水位负载均衡设计：

• 明确哪些输入

  • 服务网格数据面

    • 支持带权重的负载均衡策略

  • 注册中心存储了所有容器的权重信息

  • 宿主机提供

    • 容器的资源使用情况
    • 物理资源信息

• 设计时需要哪些关键点

  • 紧急回滚能力
  • 大规模
  • 极端场景

自适应静态权重

• 方案：采集宿主机物理资源信息，调整容器注册的权重
• 优势：复杂度低。完全分布式，可用性高。微服务中间件无适配成本
• 缺点：无紧急回滚能力。缺乏运行时自适应能力

Alpha版本：

方案：容器动态权重的自适应调整。服务网格的服务发现 & 流量调度能力

演进方向：解决无紧急回滚的能力，运行时权重自适应

缺点：过度流量倾斜可能会有异常情况

Beta版本：

方案：服务网格上报RPC指标

演进方向：极端场景处理成为可能

缺点：时序数据库压力较大。动态权重决策中心职责越来越多，迭代 -> 变更 -> 风险

Release版本：（主要对动态权重决策中心进行划分）

演进方向：

• 微服务化
• 引入消息队列削峰、解耦
• 离在线链路切分
• 梳理强弱依赖