架构初探 - 谁动了我的蛋糕 ｜ 青训营笔记

这是我参与「第五届青训营 」伴学笔记创作活动的第 7 天

架构初探

架构

单机

• 把所有功能都实现再一个进程中，并部署到一台机器上

• 优点

  • 简单

• 缺点

  • 运维需要停服，用户体验较差
  • 承载能力有限，c10k问题

单体、垂直应用|垂直切分

• 单体架构

  • 分布式部署

• 垂直应用架构

  • 按应用垂直切分的单体

• 优点

  • 水平扩容
  • 运维不需要停服

• 缺点

  • 职责太多，开发效率不高
  • 爆炸范围大，进程中一个很小的模块出现问题，都可能导致整个进程崩溃

SOA、微服务|水平切分

• 将应用的不同功能单元抽象为服务

• 定义服务之间的通行标准

  • 微服务架构：SOA的去中心化演进方向

• 问题

  • 数据一致性
  • 高可用
  • 治理
  • 解耦 过微

SOA

• SOA 架构中，服务为一等公民，将进程按照不同的功能单元进行抽象，拆分为服务，有了服务之后，SOA 还为服务之间的通信定义了标准，保证哥哥服务之间通讯体验的一致性

• 优点

  • 各服务的职责更清晰
  • 运维粒度减少到服务，爆炸半径可控

• 缺点

  • ESB （企业服务总线）往往需要一整套解决方案

微服务

• 在 SOA 架构中，ESB 起到了至关重要的作用，但从架构拓扑来看，它更是一个集中式的模块，有一个 SOA 分布式演进的分支，最终的形态便是微服务

• 优点

  • 兼具 SOA 解决的问题
  • 服务间的通信更敏捷、灵活

• 缺点

  • 运维成本

后端架构剖析

云计算

• 通过软件自动化管理，提供计算资源的服务网站，是现代互联网大规模熟悉分析和存储的基石

• 基础

  • 虚拟化技术——整租、合租
  • 编排方案——业主、租赁平台

• 架构

  • IaaS - 云基础设施，对底层硬件资源池的抽象
  • PaaS - 基于资源池抽象，对上层提供的弹性资源平台
  • SaaS - 基于弹性资源平台构建的云服务
  • FaaS - 更轻量级的函数服务

• 虚拟化技术

  • 硬件层面（VM 虚拟机） - KVM / Xen / VMware
  • 操作系统层面（Container 容器） - LCX / Docker / Kata Container
  • 网络层面 - Linux Bridge / Open v Switch

• 编排方案

  • VM - OpenStack / VMWare Workstation
  • Container - Kubernetes / Docker Swarm

DevOps

• 云原生时代软件交付的利器、贯穿整个软件开发周期
• 结合自动化流程，提高软件开发，交付效率

微服务架构

• 通行标准

  • HTTP （RESTful API）
  • RPC（Thrift，gRPC）

• 微服务中间件 RPC vs HTTP

  • 性能
  • 服务治理
  • 协议可解释性

• 云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做

服务网格

• 微服务之间的通信的中间层

• 高性能网络代理

• 业务代码与治理解耦

• 相较于 RPC / HTTP 框架

  • 异构系统治理统一化
  • 于业务进程解耦，生命周期易于管理

后端框架的挑战

挑战

• 基础设施层面

  • 物理资源是有限的

    • 机器
    • 带宽

  • 资源利用率受制于部署服务

• 用户层面

  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下，不同实例资源水位不均

离在线资源并池

• 核心收益

  • 降低物理资源成本
  • 提供更多的弹性资源，增加收入

• 解决思路

  • 离在线资源并池

• 在线业务特点

  • IO 密集型为主
  • 潮汐性、实时性

• 离线业务特点

  • 计算密集型占多数
  • 非实时性

自动扩缩容

• 核心收益

  • 降低业务成本

• 解决思路

  • 自动扩缩容
  • 利用在线业务潮汐性自动扩缩容

微服务亲和性部署

• 核心收益

  • 降低业务成本
  • 提高服务可用性

• 解决思路

  • 微服务亲和性部署
  • 将满足亲和性条件的容器调度到一台宿主机
  • 微服务中间件于服务网格通过共享内存通信
  • 服务网站控制面实施灵活、动态的流量调度

流量治理

• 核心收益

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率，DevOps 发挥到极致

• 解决思路

  • 基于微服务中间件 & 服务网格的流量治理
  • 熔断、重试
  • 单元化
  • 复杂环境（功能、预览）的流量调度

CPU 水位负载均衡

• 核心收益

  • 打平异构环境算力差异
  • 为自动扩缩容提供正向输入

• 解决思路

  • CPU 水位负载均衡

  • IaaS

    • 提供资源探针

  • 服务网络

    • 动态负载均衡

后端架构

自适应静态权重

• 方案

  • 采集宿主机物理资源信息
  • 调度容器注册的权重

• 优势

  • 复杂度低
  • 完全分布式、可用性高
  • 微服务中间件无适配成本

• 缺点

  • 无紧急回滚能力
  • 缺乏运行时自适应能力

自适应动态权重 Alpha

• 方案

  • 容器动态权重的自适应调整
  • 服务网站的服务发现 & 流量调度能力

• 演进方向

  • 解决无法紧急回滚的问题
  • 运行时权重自适应

• 缺点

  • 过度流量倾斜可能会有异常情况

自适应动态权重Beta

• 方案

  • 服务网格上报 RPC 指标

• 演进方向

  • 极端场景的处理成为可能

• 缺点

  • 时序数据库压力较大
  • 动态权重决策中心职责越来越多，迭代 -> 变更 -> 风险

自适应动态权重 Release

• 演进方向

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖