架构初探之谁动了我的蛋糕 | 青训营

107 阅读6分钟

1. 什么是架构

1.1 定义

架构,又称软件架构,有关软件整体结构与组件的抽象描述,用于指导软件系统各个方面的设计。

Q:定义还是太抽象,能不能再通俗一点?

A:实现一个软件有很多种方法,架构在方法选择上起着至关重要的指导作用

Q:架构的重要性?

A:地基没打好,大厦容易倒地基坚实了,大厦才能盖得高站在巨人肩膀上,才能看得远

1.2 单机架构

软件系统需要具备对外提供服务,单机就是把所有功能都实现在一个进程里,并部署在一台机器上。

优点:简单

问题:运维需要停服

image-20230817164223896.png

1.3 单体、垂直应用|垂直切分

单体架构:分布式部署

垂直应用架构:按应用垂直切分的单体

优点:水平扩容;运维不需要停服

问题:职责太多,开发效率不高;爆炸半径大

image-20230817164250107.png

1.4 SOA、微服务|水平切分

SOA(Service-0riented Architecture):

  • 将应用的不同功能单元抽象为服务
  • 定义服务之间的通信标准

微服务架构:SOA 的去中心化演进方向

  • 数据一致性:装货台共交付了多少蛋糕?
  • 高可用:这么多师傅,如何合作?
  • 治理:烤箱坏了,怎么容灾?
  • 解耦 vs 过微:运维成本高了,值当么

image-20230817164513238.png

2. 企业级后端架构剖析

2.1 云计算

云计算:指通过软件自动化管理,提供计算资源的服务网络,是现代互联网大规模熟悉分析和存储的基石

  • 虚拟化技术
    • 硬件(虚拟机)、操作系统(容器)、网络
    • 蛋糕店:整租 vs 合租
  • 编排方案
    • 虚拟机编排方案(OpenStack)、容器编排方案(Kubernetes)
    • 蛋糕店:业主 vs 租赁平台

架构:

  • laaS (Infrastructure as a Service) 买房子 vs 房屋租赁平台
  • PaaS (Platform as a Service) 清包 vs 全包
  • SaaS (Software as a Service) 从零培训 vs 雇佣培训过的师傅
  • FaaS (Function as a Service) 纯手工制作 vs 蛋糕机批量生产

image-20230817164623883.png

2.2 云原生

云原生,云原生(计算)的简称,它是元计算发展到现在的一种形态。

云原生技术为组织(公司)在公有云、自由云、混合云等新型的动态环境中,构建和运行可弹性拓展的应用提供了可能。它的代表技术有:==容器化、服务网格、微服务、不可变基础架构、声明式 API==。基于这些技术,开发者可以构建出容错性好、易于管理、具备较好观测性的云服务,结合可靠的自动化机制,服务可以轻松应对频繁和可预测的重大变更。

image-20230817165100358.png

2.2.1 弹性计算资源

服务资源调度:

  • 微服务:和面、雕花
  • 大服务:烤箱

计算资源调度:

  • 在线:热销榜单
  • 离线:热销榜单更新

消息队列:

  • 在线:削峰、解耦
  • 离线:大数据分析

2.2.2 弹性存储资源

==将存储资源当成服务一样==

经典:

  • 对象存储:宣传视频
  • 大数据:用户消费记录

关系型数据库:

  • 收银记录

元数据

  • 服务发现:蛋糕店通讯录

NoSQL

  • KV:来个 xx 蛋糕

2.2.3 DevOps

DevOps是云原生时代软件交付的利器,贯穿整个软件开发周期,结合自动化流程,提高软件开发、交付效率。

image-20230817165417237.png

2.2.4 微服务架构

通信标准:

  • HTTP (RESTful API)
  • RPC (Thrift, gRPC)

微服务中间件 RPC vs HTTP:

  • 性能

  • 服务治理

  • 协议可解释性

云原生场景下,微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑,而是交给框架来做。

image-20230817165448753.png

2.2.5 服务网格

Service Mesh:

  • 微服务之间通讯的中间层
  • 高性能网络代理
  • 业务代码与治理解耦

相比较于 RPC/HTTP 框架:

  • 异构系统治理统一化
  • 与业务进程解耦,生命周期易管理

image-20230817165627920.png

2.3 企业级蛋糕店架构

售卖、蛋糕制作(肉松、慕斯)、会员激励、满意度分析、研发新品:

image-20230817165743242.png

3. 企业级后端架构的挑战

基础设施层面:

  • 物理资源是有限的:机器、带宽
  • 资源利用率受制于部署服务

用户层面:

  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下,不同实例资源水位不均

image-20230817165915611.png

3.1 离在线资源并池

业务的特点:

  • 在线业务的特点:lO 密集型为主、潮汐性、实时性
  • 离线业务的特点:计算密集型占多数、非实时性

离在线资源并池的收益:

  • 降低物理资源成本
  • 提供更多的弹性资源,增加收入

image-20230817170108169.png

3.2 自动扩缩容

利用在线业务潮汐性自动扩缩容,降低业务成本。

image-20230817170324692.png

3.3 微服务亲和性部署

亲和性部署的思路:

  • 将满足亲合性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度

核心收益:降低业务成本、提高服务可用性

image-20230817170335178.png

3.4 流量治理

解决思路:基于微服务中间件 & 服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境 (功能、预览) 的流量调度

核心收益:提高微服务调用容错性;容灾;进一步提高开发效率,DevOps 发挥到极致

3.5 CPU水位负载均衡

CPU水位负载均衡的思路:

  • laaS:提供资源探针
  • 服务网格:动态负载均衡

核心收益:

  • 打平异构环境算力差异
  • 为自动扩缩容提供正向输入

image-20230817170348412.png

4. 后端架构实践

==问题:CPU 水位负载均衡,应该如何设计?==

输入:

  • 服务网格数据面:支持带权重的负载均衡策略
  • 注册中心存储了所有容器的权重信息
  • 宿主机能提供:
    • 容器的资源使用情况
    • 物理资源信息 (如 CPU 型号)

关键点:紧急回滚能力、大规模、极端场景

4.1 自适应静态权重

方案:

  • 采集宿主机物理资源信息
  • 调整容器注册的权重

优势:复杂度低;完全分布式,可用性高;微服务中间件无适配成本

缺点:无紧急回滚能力;缺乏运行时自适应能力

image-20230817171006233.png

4.2 自适应动态权重 Alpha

方案:

  • 容器动态权重的自适应调整
  • 服务网格的服务发现 & 流量调度能力

演进方向:解决无法紧急回滚的问题;运行时权重自适应

缺点:过度流量倾斜可能会有异常情况

image-20230817171204154.png

4.3 自适应动态权重 Beta

方案:服务网格上报 RPC 指标

演进方向:极端场景的处理成为可能

缺点:

  • 时序数据库压力较大
  • 动态权重决策中心职责越来越多,迭代 -> 变更 -> 风险

image-20230817171243180.png

4.4 自适应动态权重 Release

解决在线分析引擎的数据一致性问题:一致性哈希

解决时序数据库压力:将其作为旁路工具,采用纯内存的在线分析引擎进行实时策略计算

离线分析:使用消息队列解耦、削峰,离线回馈在线

演进方向:

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖

image-20230817171400555.png