架构初探 - 谁动了我的蛋糕｜ 青训营笔记

丁牛牛
154 阅读7分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 8 天

架构初探 - 谁动了我的蛋糕

架构

架构，又称软件架构

  • 是有关软件整体结构与组件的抽象描述
  • 用于指导软件系统各个方面的设计

单机架构

单机就是把所有功能都实现在一个进程里，并部署在一台机器上

优点： 简单

缺点： 运维需要停服

image.png

单体架构

分布式部署，按应用垂直切分的单体

优点： 水平扩容、运维不需要停服

缺点： 职责太多，开发效率不高、爆炸半径大

image.png

SOA(Service-Oriented Architecture) & 微服务架构

SOA

  • 将应用的不同功能单元抽象为服务
  • 定义服务之间的通信标准

微服务架构

  • SOA的去中心化演进方向

image.png

云计算

通过软件自动化管理，提供计算机资源的服务网络，是现代互联网大规模数据分析和存储的基石

云计算基础

虚拟化技术

  • 硬件层面（VM 虚拟机）- KVM/Xen/VMware
  • 操作系统层面（Container 容器）- LCX/Docker/Kata Container
  • 网络层面 - Linux Bridge/Open v Switch

编排方案

  • VM - OpenStack/VMWare Workstation
  • Container - Kubernetes/Docker Swarm

云计算架构

云服务

  • IaaS - 云基础设施，对底层硬件资源池的抽象
  • PaaS - 基于资源池抽象，对上层提供的弹性资源平台
  • SaaS - 基于弹性资源平台构建的云服务
  • FaaS - 更轻量级的函数服务。好比 LeetCode 等 OJ，刷题时只需要实现函数，不需要关注输入输出流

云部署模式

  • 私有云 - 企业自用
  • 公有云 - AWS/Azure/Google Cloud/Huawei
  • 混合云

云原生

云原生，实际是云原生（计算）的简称，它是云计算发展到现在的一种形态；云原生技术为组织（公司）在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供了可能。 它的代表技术：

  • 弹性资源
  • 微服务架构
  • DevOps
  • 服务网格

image.png

弹性资源

基于虚拟化技术，提供的可以快速扩缩容的能力。可以分为弹性计算资源和弹性存储资源两个方面。在云原生的大背景下，不论是计算资源还是存储资源，他们都像是服务一样供用户使用。

弹性计算资源

计算资源调度

  • 在线计算-互联网后端服务
  • 离线计算-大数据分析。Map-Reduce/Spark/Flinnk

消息队列

  • 在线队列 - 削峰、解耦
  • 离线队列 - 结合数据分析的一整套方案，如 ELK

弹性存储资源

经典存储

  • 对象存储 - 视频、图片等。结合 CDN 等技术，可以为应用提供丰富的多媒体能力
  • 大数据存储 - 应用日志、用户数据等。结合数据挖掘、机器学习等技术，提高应用的体验

关系型数据库

元数据

  • 服务发现

NoSQL

  • KV 存储 - Redis
  • 文档存储 - Mongo

微服务架构

微服务架构下，服务之间的通讯标准是基于协议而不是 ESB 的。

  • HTTP - H1/H2
  • RPC - Apache Thrift/gRPC

如何在 HTTP 和 RPC 之间选择？

  • 性能 - RPC 协议往往具备较好的压缩率，性能较高。如 Thrift, Protocol Buffers
  • 服务治理 - RPC 中间件往往集成了丰富的服务治理能力。如 熔断、降级、超时等
  • 可解释性 - HTTP 通信的协议往往首选 JSON，可解释性、可调试性更好

DevOps

DevOps是云原生时代软件交付的利器，贯穿整个软件开发周期。结合自动化流程，提高软件开发、交付效率

image.png

服务网格

什么是服务网格？

  • 微服务之间通讯的中间层
  • 一个高性能的 4 层网络代理
  • 将流量层面的逻辑与业务进程解耦

没有什么是加一层代理解决不了的问题，服务网格相比较于 RPC/HTTP 框架：

  • 实现了异构系统治理体验的统一化
  • 服务网格的数据平面代理与业务进程采取进程间通信的模式，使得流量相关的逻辑（包含治理）与业务进程解耦，生命周期也更容易管理

企业级后端架构的挑战

问题

基础设施层面

  • 物理资源是有限的(机器、带宽)
  • 资源利用率受制于部署服务

用户层面

  • 网络通信开销大
  • 网络抖动导致运维成本提高
  • 异构环境下，不同实例资源水位不均

image.png

离在线资源并池

考虑到在线业务的潮汐性，物理资源的用量不是一成不变的

核心收益

  • 提高物理资源利用率、降低物力资源成本
  • 提供更多弹性资源，增加收入

image.png 在线业务特点

  • IO密集型为主
  • 潮汐性、实时性

离线业务特点

  • 计算密集型占多数
  • 非实时性

自动扩缩容

利用在线业务潮汐性自动扩缩容

核心收益

  • 降低业务成本

image.png

微服务亲和性部署

微服务之间的通信成本较高，通过将微服务调用形态与资源调度系统结合，将一些调用关系紧密、通信量大的服务部署在同一个机器上，并且使用 IPC 代替 RPC 的方式，降低网络通信带来的开销

形态上是微服务架构、通信上是单体架构

  • 将满足亲合性条件的容器调度到一台主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度

核心收益

  • 降低业务成本
  • 提高服务可用性

image.png

流量治理

基于微服务中间件 & 服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境(功能、预览)的流量调度

核心受益

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率，DevOps发挥到极致

CPU水位负载均衡

屏蔽异构环境的算力差异，基础设施层往往是个复杂的异构环境，比如，有些机器的 CPU 是英特尔的，而有些是 AMD 的。就算是同一个品牌，也可能是不同代际。如何将这些差异屏蔽掉，使用户尽可能不感知呢？

  • IaaS：提供资源探针
  • 服务网格：动态负载均衡

image.png

后端架构实战

问题提炼

服务网格数据面

  • 支持带权重的负载均衡策略

注册中心存储了所有容器的权重信息

宿主机能够提供

  • 容器的资源使用情况
  • 物理资源信息(如CPU型号)

关键点

  • 紧急回滚能力
  • 大规模
  • 极端场景

image.png

自适应静态权重

方案

  • 采集宿主机资源信息
  • 调整容器注册的权重

image.png 优势

  • 复杂度低
  • 完全分布式，可用性高
  • 微服务中间件无适配成本

缺点

  • 无紧急回滚能力
  • 缺乏运行时自适应能力

自适应静态权重Alpha

方案

  • 容器动态权重的自适应调整
  • 服务网格的服务发现 & 流量调度能力

image.png

演进方向

  • 解决无法紧急回滚的问题
  • 运行时权重自适应

缺点

  • 过渡流量倾斜可能会有异常情况

自适应静态权重Beta

方案

  • 服务网格上报RPC指标

image.png

演化方向

  • 极端场景的处理成为可能

缺点

  • 时序数据库压力大
  • 动态权重决策中心职责越来越多，迭代->风险->变更

自适应静态权重Release

image.png

演化方向

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖
avatar
文章
阅读
粉丝