架构初探-谁动了我的蛋糕 | 青训营笔记

233 阅读7分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记

一、什么是架构

1、 SOA、微服务|水平切分

SOA(Service-Oriented Architecture)

  1. 将应用的不同功能单元抽象为服务
  2. 定义服务之间的通信标准

**微服务架构:**SOA的去中心化演进方向 问题:

  • 数据一致性
    • 装货台共交付了多少蛋糕?
  • 高可用
    • 这么多师傅,如何合作?
  • 治理
    • 烤箱坏了,怎么容灾?
  • 解耦vs过微
    • 运维成本高了,值当么?

image.png

2、小结

架构的演进初衷:好比做蛋糕

  • 需求量越来越大,终归要增加人手
  • 越做越复杂,终归要分工合作

**架构的演进思路:就像切蛋糕,**蛋糕越来越大,一口吃不下终归要切分

  • 竖着切(垂直切分)
  • 横着切(水平切分〉

二、企业级后端架构剖析

2.1云计算

**云计算:**是指通过软件自动化管理,提供计算资源的服务网络,是现代互联网大规模熟悉分析和存储的基石。 基础:

  • 虚拟化技术-整租Vs合租
  • 编排方案-业主Vs租赁平台

架构:

  • laaS(Infrastructure as a Service)
    • 买房子vs房屋租赁平台
  • PaaS (Platform as a Service)
    • 清包vs全包-->第三层:雇佣装修公司,提供维护服务
  • SaaS(Software as a Service)
    • 从零培训Vs雇佣培训过的师傅-->第四层
  • FaaS(Function as a Service)
    • 纯手工制作Vs蛋糕机批量生产-->第五层:搭建好各种设施,只需关注自己的业务,不需要关注底层。

image.png

2.2 云原生

云原生技术为组织(公司)在公有云、自由云、混合云等新型的动态环境中,构建和运行可弹性拓展的应用提供了可能。 image.png 云原生主要涉及四个大方面

  • 弹性资源:基于虚拟化容器以及灵活的编排调度机制,可以为云服务提供快速扩缩容能力,而且极大程度地提高了物理资源的利用率。在这方面,kubernetes技术已经称为了业界的标准。
  • 微服务架构:依托于功能单元解构,使得云服务具备了快速迭代的可能,业务得以迅速发展。同一的通信标准能够帮助越来越多的组件加入到云原生的大家庭,同时也使得各组件之间的交互变得更容易。
  • DvOs:设计->开发->测试->交付->开发->测试->交付,自动化的流程使得软件的工作流程更高效,将微服务架构的优势发挥的淋漓尽致。
  • 服务网格:业务不再需要关心异构系统中RPC中间件治理能力的不统一,也使得复杂的治理能力的落地成为可能。

2.2.1 云原生之弹性计算资源

弹性计算资源类型:

  • 服务资源调度
    • 微服务:和面、雕花
    • 大服务:烤箱
  • ·计算资源调度
    • 在线:热销榜单
    • 离线:热销榜单更新
  • ·消息队列
    • 在线:削峰、解耦
    • 离线:大数据分析

2.2.2云原生之弹性存储资源

弹性存储资源类型:

  • 经典
    • 对象:宣传视频
    • 大数据:用户消费记录
  • 关系型数据库
    • 收银记录
  • 元数据
    • 服务发现:蛋糕店通讯录
  • NoSQL
    • KV:来个xx蛋糕

总结:将存储资源当成服务一样

2.2.3 云原生之DevOps

Dev0ps是云原生时代软件交付的利器,贯穿整个软件开发周期。结合自动化流程,提高软件开发、交付效率。 image.png

2.2.4云原生之微服务架构

通信标准:

  • HTTP (RESTful APD
  • RPC (Thrift,gRPC)

微服务中间件RPC vs HTTP:

  • 性能
  • 服务治理
  • 协议可解释性

云原生场景下,微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑,而是交给框架来做。 image.png

云原生之服务网格

服务网格(Service Mesh):

  • 微服务之间通讯的中间层
  • 高性能网络代理
  • 业务代码与治理解耦

相比较于RPC/HTTP框架:

  • 异构系统治理统一化
  • 与业务进程解耦,生命周期易管理

image.png

2.3云原生蛋糕店

image.png

三、企业级后端架构的挑战

挑战:

  • 基础设施层面
    • 物理资源是有限的
      • 机器
      • 带宽
    • 资源利用率受制于部署服务
  • 用户层面
    • 网络通信开销较大
    • 网络抖动导致运维成本提高
    • 异构环境下,不同实例资源水位不均

image.png

3.1 离在线资源并池

核心收益:

  • 降低物理资源成本
  • 提供更多的弹性资源,增加收入

解决思路:离在线资源并池

  • 在线业务的特点
    • IO密集型为主
    • 潮汐性、实时性
  • 离线业务的特点
    • 计算密集型占多数
    • 非实时性

image.png

3.2自动扩缩容

核心收益:

  • 降低业务成本

解决思路: 自动扩缩容

  • 利用在线业务潮汐性自动扩缩容

问题:扩缩容依据什么指标? CPU某一个指标,内存波动较大的程序可以选用内存。 基于IO来做扩缩容在技术上有难度。 image.png

3.3微服务亲合性部署

核心收益:

  • 降低业务成本
  • 提高服务可用性

解决思路:微服务亲合性部署

  • 将满足亲合性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信(减轻拷贝,序列化的开销)
  • 服务网格控制面实施灵活、动态的流量调度

image.png

3.4流量治理

核心收益:

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率,DevOps发挥到极致

解决思路:基于微服务中间件&服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境(功能、预览)的流量调度

3.5CPU水位负载均衡

核心收益:

  • 打平异构环境算力差异(比如两台部署B服务的服务器的算力不一样,一台比较新,一台比较旧)
  • 为自动扩缩容提供正向输入

解决思路:CPU水位负载均衡

  • laaS
    • 提供资源探针(告诉上层该服务器的CPU利用率是多少)
  • 服务网格
    • 动态负载均衡

image.png

四、后端架构实战

问题提炼

输入:

  • 服务网格数据面
    • 支持带权重的负载均衡策略
  • 注册中心存储了所有容器的权重信息
  • 宿主机能提供
    • 容器的资源使用情况
    • 物理资源信息(如CPU型号)

关键点:

  • 紧急回滚能力
  • 大规模
  • 极端场景

image.png

4.1自适应静态权重

方案:

  • 采集宿主机物理资源信息
  • 调整容器注册的权重

优势:

  • 复杂度低
  • 完全分布式,可用性高
  • 微服务中间件无适配成本

缺点:

  • 无紧急回滚能力
  • 缺乏运行时自适应能力

image.png

4.2自适应动态权重AIpha

方案:

  • 容器动态权重的自适应调整
  • 服务网格的服务发现&流量调度能力

演进方向:

  • 解决无法紧急回滚的问题
  • 运行时权重自适应

缺点:

  • 过度流量倾斜可能会有异常情况

image.png 增加了动态权重决策中心。采集宿主机X,Y的指标进行计算。

4.3自适应动态权重Beta

方案:

  • 服务网格上报RPC指标

演进方向:

  • 极端场景的处理成为可能

缺点:

  • 时序数据库压力较大
  • 动态权重决策中心职责越来越多,迭代->变更->风险

image.png

4.4自适应动态权重Release

演进方向:

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖

image.png

总结

  1. 没有最好的架构,只有最合适的架构
  2. 如何做架构设计
  • 需求先行。弄清楚要解决什么问题
  • 业界调研。业界都有哪些解决方案可供参考
  • 技术选型。内部/社区都有哪些基础组件
  • 异常情况。考虑清楚xxx不行了怎么办
  1. 架构与工程师成长
  • 技术经理
  • 架构师