「架构初探-谁动了我的蛋糕」｜ 青训营笔记

Nebula1805
88 阅读17分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 7 天

本堂课重点内容：

  • 了解架构的本质、重要性和演进
  • 企业级后端架构的剖析
  • 企业级后端架构的挑战

1.什么是架构

1.0 定义

架构，又称软件架构，

  • 是有关软件整体结构与组件的抽象描述
  • 用于指导软件系统各个方面的设计

通俗一点说，实现一个软件有很多种方法，架构在方法选择上起着至关重要的指导作用

架构的重要性

拿盖房子来做举例子。我们都知道，地基对于一栋楼房的主要性，架构对于一个软件的重要性也是类似的：

  • 架构没设计好，软件容易崩，用户体验上不去。最终要么重构，要么放弃
  • 架构设计好了，软件的稳定性上去了，用户体验高了，口碑一点点就打造出来了
  • 良好的架构基础，也为软件的未来发展提供了更多的可能。为用户赋能，实现自身价值

演进：如何卖更多的蛋糕？ 多雇几个蛋糕师傅

1.1 问题

兰师傅蛋糕坊要开张了，亟须解决如下问题：

  • 如何做蛋糕

    • 独家秘方，还是亲自做比较好

  • 如何卖蛋糕

    • 刚开始客流量应该不大，边做边卖

看起来问题都解决了，开张！

1.2 单机架构

软件系统需要具备对外提供服务，单机，就是把所有功能都实现在一个进程里，并部署在一台机器上

image-20230201102900405.png 优点：

  • 简单

问题：

  • 运维需要停服，用户体验较差
  • 承载能力有限。了解下 c10k 问题

1.3 单体、垂直应用垂直切分

单体架构：分布式部署

在单机架构的基础上，将进程部署到多个机器上。

image-20230201103032481.png 优点：

  • 水平扩容
  • 运维不需要停服

问题：

  • 后端进程职责太多，越来越臃肿
  • 爆炸半径较大，进程中一个很小的模块出现问题，都可能导致整个进程崩溃

垂直应用架构：按应用垂直切分的单体

在单机架构基础上，将进程按照某种依据切分开。比如，A 软件和 B 软件的后端原先采用单机架构部署，那就是一个进程部署在多个机器上；如果用垂直应用架构，可以将 A 和 B 的后端拆分为 A、B 两个进程，然后再按照单体模式的思路，部署在多个机器上。

优点：

  • 一定程度上减少了后端进程职责
  • 一定程度上缩小爆炸半径

缺点：

  • 没有根本解决单体架构的问题

image-20230201103319225.png

按照这个思路： 我们把进程部署在多个机器上，并引入负载均衡层，经过这样的垂直切分，就来到了单体架构。多个机器就好比把蛋糕切成几大块，负载均衡层负责引导用户去事先切好的几块蛋糕处

在单体架构基础上，进一步地，再把不同应用的代码从之前一个大的进程中拆分出来，就来到了垂直应用架构。按应用拆分进程，就好比慕斯、戚风，等蛋糕在不同的点发配

这种经过垂直切分的架构，尝试解决了单机服务的水平扩容、运维停服问题。当然这里面很多细节还没有提及，比如，多个机器上部署的进程如何保证数据一致性。这些我们后面会一并讨论

虽然它们解决了单机服务的两个最重要的问题，但也面临着很多挑战。这其中，有两个问题使得我们不得不放弃单体和垂直应用架构：

随着业务场景越来越复杂，服务的职责也越来越多。学过面向对象程序设计的同学都知道单一职责的重要性，在软件架构里也是一样的。开发者不仅要关心 Web 后端业务逻辑，还要关心缓存、持久化存储，甚至跟机器打交道。长此以往，RD很难分出精力专注于业务能力的开发

业务发展需要上线、变更，将会影响所有其他不涉及的场景。一旦出问题，影响面不可估量

演进：如何提高做蛋糕效率？ 分工协作

1.4 SOA、微服务|水平切分

SOA(Service-Oriented Architecture) 面向服务架构

SOA 架构中，服务为一等公民，将进程按照不同的功能单元进行抽象，拆分为『服务』。有了服务之后，SOA 还为服务之间的通信定义了标准，保证各个服务之间通讯体验的一致性。

image-20230201104618954.png 优点：

  • 各服务的职责更清晰
  • 运维粒度减小到服务，爆炸半径可控

缺点：

  • ESB (企业服务总线) 往往需要一整套解决方案

微服务架构：SOA 的去中心化演进方向

在 SOA 架构中，ESB 起到了至关重要的作用。但从架构拓扑来看，它更像是一个集中式的模块。有一个 SOA 分布式演进的分支，最终的形态便是微服务。

image-20230201105355554.png 优点：

  • 兼具 SOA 解决的问题
  • 服务间的通信更敏捷、灵活

缺点：

  • 运维成本

按照这个思路，我们把原本包含了众多复杂逻辑的进程按照功能单元抽象成多个服务，以服务为一等公民，并为它们之间的通信定义标准，便得到了SOA架构。

这里有两个相对比较重要的概念：

服务，是根据功能抽象出来的概念。比如说，处理用户登录信息的 Passport 服务，负责持久化存储的数据库服务，以及为了加快查询速度的缓存服务等

通信标准，是服务之间通信的基石。没有实现定义好的通信标准，就好比多个做蛋糕的师傅语言不通，难以协作

为了服务之间更好的通信，有两个大的发展方向：中心化和去中心化。因为中心化的方案形态较重，拓展性不佳，普及性不佳，我们跳过不讲，感兴趣的同学可以自己了解一下。而去中心化的方向，最终的形态就是微服务架构

这下， 1.不同模块的 RD 可以专心于自己的业务逻辑了，开发迭代效率得到显著提高 2.各个服务独立运维，变更操作的影响面可控，应用整体的稳定性得到了提高

最后，我们还需要回答垂直切分和水平切分所产生的一系列问题：

由单机部署演进来的分布式架构， 如何解决数据一致性

服务越来越多，依赖越来越复杂，

如何做到高可用

一个团队甚至一个人可能同时管理多个微服务，如何运维

微服务的目标是强化单一职责，控制爆炸半径，如何在解耦和『过微』之间取舍

问题：

  • 数据一致性

    • 装货台共交付了多少蛋糕？

  • 高可用

    • 这么多师傅，如何合作？

  • 治理

    • 烤箱坏了，怎么容灾？

  • 解耦 vs 过微

    • 运维成本高了，值当么？

小结

架构的演进初衷：满足软件迭代诉求，提高迭代效率。好比做蛋糕。

  • 需求量越来越大，终归要增加人手
  • 越做越复杂，终归要分工合作

架构的演进思路：垂直切分——分布式，水平切分——分层/模块化。就像切蛋糕。蛋糕越来越大，一口吃不下终归要切分

  • 竖着切（垂直切分)
  • 横着切（水平切分)

2.企业级后端架构剖析

2.0 背景

兰师傅蛋糕店经过 3 年的莲勃发展，积累了良好的口碑和用户基础，接下来，需要扩大规模：

  • 店面怎么盘：

    • 买
    • 租

  • 师傅怎么招：

    • 兰师傅全家出马
    • 招培训班出身的

  • 是否继续坚持纯手工制作？

  • 规模大了之后，工作重心应该是？

    • 精进蛋糕制作收益
    • 蛋糕店重点方向梳理&未来规划

2.1 云计算

云计算：是指通过软件自动化管理，提供计算资源的服务网络，是现代互联网大规模熟悉分析和存储的基石。

云计算基础：

  • 虚拟化技术 （整租 vs 合租）

    • 硬件层面（VM 虚拟机）- KVM/Xen/VMware
    • 操作系统层面（Container 容器）- LCX/Docker/Kata Container
    • 网络层面 - Linux Bridge/Open v Switch

  • 编排方案 （业主 vs 租赁平台）

    • VM - OpenStack/VMWare Workstation
    • Container - Kubernetes/Docker Swarm

云计算架构：

  • 云服务

    • IaaS (Infrastructure as a Service) - 云基础设施，对底层硬件资源池的抽象 （买房子 vs 房屋租赁平台）
    • PaaS (Platform as a Service) - 基于资源池抽象，对上层提供的弹性资源平台 （清包 vs 全包）
    • SaaS (Software as a Service) - 基于弹性资源平台构建的云服务 （从零培训 vs 雇佣培训过的师傅）
    • FaaS (Function as a Service) - 更轻量级的函数服务。好比 LeetCode 等 OJ，刷题时只需要实现函数，不需要关注输入输出流 （纯手工制作 VS 蛋糕机批量生产）

  • 云部署模式（拓展）

    • 私有云 - 企业自用
    • 公有云 - AWS/Azure/Google Cloud/Huawei
    • 混合云

image-20230201110828518.png

2.2 云原生

云原生，实际是云原生（计算）的简称，它是云计算发展到现在的一种形态。

云原生技术为组织（公司）在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供了可能。 它的代表技术：

  • 弹性资源
  • 微服务架构
  • DevOps
  • 服务网格

image-20230201112456421.png

云原生主要涉及四个大方面：

弹性资源：基于虚拟化容器以及灵活的编排调度机制，可以为云服务提供快速扩缩容能力，而且极大程度地提高了物理资源的利用率。在这方面 kubernetes 技术已经称为了业界的标准

微服务架构：还记得前面我们聊到的微服务架构么？没错，它也是云原生的重要基石之一。依托于功能单元解构，使得云服务具备了快速迭代的可能，业务得以迅速发展；统一的通信标准能够帮助越来越多的组件加入到云原生的大家庭，同时也使得各组件之间的交互变的更容易

DevOps:设计->开发->测试->交付->开发->测试->交付，自动化的流程使得软件的工作流程更高效，将微服务架构的优势发挥的淋漓尽致

服务网格：如果说微服务架构的重要进步，是将庞大的单体服务按照业务功能解耦开来，那么，服务网格的重要进步就是将业务逻辑与网络通信和治理解耦开来。业务不再需要关心异构系统中 RPC 中间件治理能力的不统一，也使得复杂的治理能力的落地成为可能

弹性资源

基于虚拟化技术，提供的可以快速扩缩容的能力。可以分为弹性计算资源和弹性存储资源两个方面。

弹性计算资源：

  • 服务资源调度

    • 微服务 （和面、雕花）
    • 大服务 （烤箱）

  • 计算资源调度

    • 在线计算 - 互联网后端服务 （热销榜单）
    • 离线计算 - 大数据分析。Map-Reduce/Spark/Flinnk （热销榜单更新）

  • 消息队列

    • 在线队列 - 削峰、解耦
    • 离线队列 - 结合数据分析的一整套方案，如 ELK

弹性存储资源：

  • 经典存储

    • 对象存储 - 视频、图片等。结合 CDN 等技术，可以为应用提供丰富的多媒体能力 （宣传视频）
    • 大数据存储 - 应用日志、用户数据等。结合数据挖掘、机器学习等技术，提高应用的体验 （用户消费记录）

  • 关系型数据库 （收银记录）

  • 元数据

    • 服务发现 （蛋糕店通讯录）

  • NoSQL

    • KV 存储 - Redis （来个 xx 蛋糕）
    • 文档存储 - Mongo

在云原生的大背景下，不论是计算资源还是存储资源，他们都像是服务一样供用户使用。

DevOps

DevOps 是云原生时代软件交付的利器，贯穿整个软件开发周期。

结合自动化流程，提高软件开发、交付效率

image-20230201114204221.png

微服务架构

微服务架构下，服务之间的通讯标准是基于协议而不是 ESB 的。

  • HTTP - H1/H2
  • RPC - Apache Thrift/gRPC

如何在 HTTP 和 RPC 之间选择？

  • 性能 - RPC 协议往往具备较好的压缩率，性能较高。如 Thrift, Protocol Buffers
  • 服务治理 - RPC 中间件往往集成了丰富的服务治理能力。如 熔断、降级、超时等
  • 可解释性 - HTTP 通信的协议往往首选 JSON，可解释性、可调试性更好

image-20230201114646201.png 云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做

服务网格

什么是服务网格？

  • 微服务之间通讯的中间层
  • 一个高性能的 4 层网络代理
  • 将流量层面的逻辑与业务进程解耦

没有什么是加一层代理解决不了的问题，服务网格相比较于 RPC/HTTP 框架：

  • 实现了异构系统治理体验的统一化
  • 服务网格的数据平面代理与业务进程采取进程间通信的模式，使得流量相关的逻辑（包含治理）与业务进程解耦，生命周期也更容易管理

image-20230201115356984.png

2.3 云原生蛋糕店

企业级蛋糕店架构：

  • 售卖
  • 蛋糕制作 (肉松、慕斯）
  • 会员激励
  • 满意度分析
  • 研发新品

image-20230201120221323.png

3.企业级后端架构的挑战

3.0 问题

  • 基础设施层面：

Q：我们总说，云是弹性的，也就是说，在用户的角度，云提供的资源是无限的。然而，云背后的物理资源是有限的。在企业级后端架构里，云如何解决近乎无限的弹性资源和有限的物理资源之间的矛盾？ （物理资源是有限的，机器、带宽）

Q：闲事的资源就这么空着呢？如何提高资源利用率，提高物理资源的价值转换率？ （资源利用率受制于部署服务）

  • 用户层面：

Q：上了云原生微服务后，服务之间的通信开销较大，应该如何做成本优化？ （网络通信开销较大）

Q：微服务看起来没有那么美好，抖动导致的运维成本较高，如何解决？ （网络抖动导致运维成本提高）

Q：异构的物理环境应该对用户是透明的，如何屏蔽这些细节？ （异构环境下，不同实例资源水位不均）

image-20230201154850406.png

3.1 离在线资源并池

核心收益：

  • 降低物理资源成本
  • 提供更多的弹性资源，增加收入

解决思路：离在线资源并池

  • 在线业务的特点

    • IO 密集型为主
    • 潮汐性、实时性

  • 离线业务的特点

    • 计算密集型占多数
    • 非实时性

考虑到在线业务的潮汐性，物理资源的用量不是一成不变的。离在线资源并池，可以：

  • 提高物理资源利用率
  • 提供更多的弹性资源

image-20230201155641231.png 问题：同一个机器怎么做离在线隔离？

3.2 自动扩缩容

核心收益：

  • 降低业务成本

解决思路： 自动扩缩容

  • 利用在线业务潮汐性自动扩缩容

image-20230201160541088.png 问题：扩缩容依据什么指标？

3.3 微服务亲合性部署

核心收益：

  • 降低业务成本
  • 提高服务可用性

解决思路：微服务亲合性部署

  • 将满足亲合性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度

微服务之间的通信成本较高，是否可以：

  • 形态上是微服务架构
  • 通信上是单体架构

亲合性部署，通过将微服务调用形态与资源调度系统结合，将一些调用关系紧密、通信量大的服务部署在同一个机器上，并且使用 IPC 代替 RPC 的方式，降低网络通信带来的开销

image-20230201161146012.png

3.4 流量治理

核心收益：

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率，DevOps 发挥到极致

解决思路：基于微服务中间件 & 服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境（功能、预览）的流量调度

3.5 CPU 水位负载均衡

核心收益：

  • 打平异构环境算力差异
  • 为自动扩缩容提供正向输入

解决思路：CPU 水位负载均衡

  • laaS

    • 提供资源探针

  • 服务网格

    • 动态负载均衡

image-20230201161625336.png

4.后端架构实战

4.0 问题背景

兰师傅蛋糕店也碰到了类似的问题：

  • 不同师傅干活的效率差距较大
  • 有些师傅希望『能者多劳多挣」

在这个背景下，继续像之前一样为每个师傅分配完全相同的工作，会引起他们的不满。。。

回到最后的挑战 一 CPU 水位负载均衡，应该如向设计？

1.需要哪些输入？ 2.设计吋需要考虑哪些关键点？

4.0 问题提炼

输入：

  • 服务网格数据面

    • 支持带权重的负载均衡策略

  • 注册中心存储了所有容器的权重信息

  • 宿主机能提供

    • 容器的资源使用情况
    • 物理资源信息（如 GPU 型号）

image-20230201162434721.png 如何设计一个根据主机层面的资源信息，实时进行流量调度的系统，打平不同宿主机异构环境的算力差异。

关键点：

  • 紧急回滚能力
  • 大规模
  • 极端场景

4.1 自适应静态权重

方案：

  • 采集宿主机物理资源信息
  • 调整容器注册的权重

优势：

  • 复杂度低
  • 完全分布式，可用性高
  • 微服务中间件无适配成本

缺点：

  • 无紧急回滚能力
  • 缺乏运行时自适应能力

image-20230201163005686.png

4.2 自适应动态权重 Alpha

方案：

  • 容器动态权重的自适应调整
  • 服务网格的服务发现 & 流量调度能力

演进方向：

  • 解决无法紧急回滚的问题
  • 运行时权重自适应

缺点：

  • 过度流量倾斜可能会有异常情况

image-20230201163914990.png

4.3 自适应动态权重 Beta

方案：

  • 服务网格上报 RPC 指标

演进方向：

  • 极端场景的处理成为可能

缺点：

  • 时序数据库压力较大
  • 动态权重决策中心职责越来越多，迭代 -> 变更 -> 风险

image-20230201164448916.png

4.4 自适应动态权重 Release

演进方向：

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖

解决在线分析引擎的数据一致性问题：一致性哈希

解决时序数据库压力：将其作为旁路工具，采用纯内存的在线分析引擎进行实时策略计算

离线分析：使用消息队列解耦、削峰离线回馈在线

image-20230201164829424.png

尾声

  1. 没有最好的架构，只有最合适的架构

  2. 做架构设计

    1. 先从需求出发。要满足什么样的需求？预期规模有多大？
    2. 做足够的业界调研。业界对于类似的需求是怎么做的？有无成熟的方案可以借鉴？直接拿来用有什么问题？
    3. 技术选型。涉及的技术组件是自研，还是使用开源的？
    4. 异常情况。任何时候，都不能做『输入合法』的假设。容灾能力一定要有

  3. 学好架构，是工程师成长的一个重要标志

个人总结

  • 根据实际情况对服务的框架进行拆分设计和演进
  • 进行框架设计要有预见性，要有一定的容灾能力

引用参考

学习资料三之课程二

avatar
文章
阅读
粉丝