「架构初探-谁动了我的蛋糕」笔记| 青训营笔记

这是我参与「第三届青训营 -后端场」笔记创作活动的的第3篇笔记

什么是架构

架构定义

架构，又称软件架构：

是有关软件整体结构与组件的抽象描述
用于指导软件系统各个方面的设计

单机架构

All in one，所有的东西都在一个进程里，部署在一个机器上。

优点：

简单。

缺点：

运维需要停服，用户体验较差。
承载能力有限。 C10k 问题。

C10k 问题

本质

C10K问题的本质是操作系统的问题。对于Web 1.0/2.0时代的操作系统，传统的同步阻塞I/O模型处理方式都是requests per second。当创建的进程或线程多了，数据拷贝频繁（缓存I/O、内核将数据拷贝到用户进程空间、阻塞，进程/线程上下文切换消耗大，导致操作系统崩溃。

解决方案

每个进程/线程处理一个连接

该思路最为直接，但是申请进程/线程是需要系统资源的，且系统需要管理这些进程/线程，所以会使资源占用过多，可扩展性差。

每个进程/线程同时处理多个连接(I/O多路复用)

select方式：使用fd_set结构体告诉内核同时监控那些文件句柄，使用逐个排查方式去检查是否有文件句柄就绪或者超时。该方式有以下缺点：文件句柄数量是有上线的，逐个检查吞吐量低，每次调用都要重复初始化fd_set。
poll方式：该方式主要解决了select方式的2个缺点，文件句柄上限问题(链表方式存储)以及重复初始化问题(不同字段标注关注事件和发生事件)，但是逐个去检查文件句柄是否就绪的问题仍然没有解决。
epoll方式：该方式可以说是C10K问题的killer，他不去轮询监听所有文件句柄是否已经就绪。epoll只对发生变化的文件句柄感兴趣。其工作机制是，使用"事件"的就绪通知方式，通过epoll_ctl注册文件描述符fd，一旦该fd就绪，内核就会采用类似callback的回调机制来激活该fd, epoll_wait便可以收到通知, 并通知应用程序。而且epoll使用一个文件描述符管理多个描述符,将用户进程的文件描述符的事件存放到内核的一个事件表中, 这样数据只需要从内核缓存空间拷贝一次到用户进程地址空间。而且epoll是通过内核与用户空间共享内存方式来实现事件就绪消息传递的，其效率非常高。但是epoll是依赖系统的(Linux)。

单体架构

在单机架构的基础上，将进程部署到多个机器上。

优点：

具备水平扩容能力
运维不需要停服

缺点：

后端进程职责太多，越来越臃肿
爆炸半径较大，进程中一个很小的模块出现问题，都可能导致整个进程崩溃

垂直应用架构

在单机架构基础上，将进程按照某种依据切分开。比如，如果用垂直应用架构，可以将 A 和 B 的后端拆分为 A、B 两个进程，然后再按照单体模式的思路，部署在多个机器上。

优点：

一定程度上减少了后端进程职责
一定程度上缩小爆炸半径

缺点：

没有根本解决单体架构的问题

SOA (面向服务架构)

SOA(Service-Oriented Architecture)

将进程按照不同的功能单元进行抽象，拆分为『服务』。
有了服务之后，SOA 还为服务之间的通信定义了标准，保证各个服务之间通讯体验的一致性。

优点：

各服务的职责更清晰
运维粒度减小到服务，爆炸半径可控

缺点：

ESB (企业服务总线) 往往需要一整套解决方案

微服务

微服务架构：SOA的去中心化演进方向

在 SOA 架构中，ESB 起到了至关重要的作用。但从架构拓扑来看，它更像是一个集中式的模块。有一个 SOA 分布式演进的分支，最终的形态便是微服务。

优点：

兼具 SOA 解决的问题
服务间的通信更敏捷、灵活

缺点：

运维成本

小结

架构演进的初衷：满足软件迭代诉求，提高迭代效率
架构演进的思路：垂直切分——分布式，水平切分——分层/模块化

企业级后端架构剖析

云计算

云计算:是指通过软件自动化管理，提供计算资源的服务网络，是现代互联网大规模熟悉分析和存储的基石。

云计算基础：

虚拟化技术
- 硬件层面（VM 虚拟机）- KVM/Xen/VMware
- 操作系统层面（Container 容器）- LCX/Docker/Kata Container
- 网络层面 - Linux Bridge/Open v Switch
编排方案
- VM - OpenStack/VMWare Workstation
- Container - Kubernetes/Docker Swarm

云计算架构：

云服务
- IaaS - 云基础设施，对底层硬件资源池的抽象
- PaaS - 基于资源池抽象，对上层提供的弹性资源平台
- SaaS - 基于弹性资源平台构建的云服务
- FaaS - 更轻量级的函数服务。好比 LeetCode 等 OJ，刷题时只需要实现函数，不需要关注输入输出流
云部署模式（拓展）
- 私有云 - 企业自用
- 公有云 - AWS/Azure/Google Cloud/Huawei
- 混合云

云原生

云原生，实际是云原生（计算）的简称，它是云计算发展到现在的一种形态。

云原生技术为组织（公司）在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供了可能。它的代表技术：

弹性资源
微服务架构
DevOps
服务网格

弹性资源

基于虚拟化技术，提供的可以快速扩缩容的能力。可以分为弹性计算资源和弹性存储资源两个方面。弹性计算资源：

计算资源调度
- 在线计算 - 互联网后端服务
- 离线计算 - 大数据分析。Map-Reduce/Spark/Flinnk
消息队列
- 在线队列 - 削峰、解耦
- 离线队列 - 结合数据分析的一整套方案，如 ELK

弹性存储资源：

经典存储
- 对象存储 - 视频、图片等。结合 CDN 等技术，可以为应用提供丰富的多媒体能力
- 大数据存储 - 应用日志、用户数据等。结合数据挖掘、机器学习等技术，提高应用的体验
关系型数据库
元数据
- 服务发现
NoSQL
- KV 存储 - Redis
- 文档存储 - Mongo

在云原生的大背景下，不论是计算资源还是存储资源，他们都像是服务一样供用户使用。

微服务架构

微服务架构下，服务之间的通讯标准是基于协议而不是 ESB 的。

HTTP - H1/H2
RPC - Apache Thrift/gRPC

如何在 HTTP 和 RPC 之间选择？

性能 - RPC 协议往往具备较好的压缩率，性能较高。如 Thrift, Protocol Buffers
服务治理 - RPC 中间件往往集成了丰富的服务治理能力。如熔断、降级、超时等
可解释性 - HTTP 通信的协议往往首选 JSON，可解释性、可调试性更好

云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做。

服务网格

什么是服务网格？

微服务之间通讯的中间层
一个高性能的 4 层网络代理
将流量层面的逻辑与业务进程解耦

没有什么是加一层代理解决不了的问题，服务网格相比较于 RPC/HTTP 框架：

实现了异构系统治理体验的统一化
服务网格的数据平面代理与业务进程采取进程间通信的模式，使得流量相关的逻辑（包含治理）与业务进程解耦，生命周期也更容易管理

企业级后端架构的挑战

挑战:

基础设施层面：

物理资源是有限的
- 机器
- 带宽
资源利用率受制于部署服务

用户层面：

网络通信开销较大
网络抖动导致运维成本提高
异构环境下，不同实例资源水位不均

离在线资源并池

考虑到在线业务的潮汐性，物理资源的用量不是一成不变的。离在线资源并池，可以：

提高物理资源利用率
提供更多的弹性资源

自动扩缩容

核心收益：降低业务成本

在离在线资源并池的基础下，利用在线业务潮汐性自动扩缩容，帮助在线资源池更好的承载业务的请求。

微服务亲合性部署

微服务之间的通信成本较高，是否可以：

形态上是微服务架构
通信上是单体架构

核心收益:

降低业务成本
提高服务可用性

将满足亲合性条件的容器调度到一台宿主机

微服务中间件与服务网格通过共享内存通信

服务网格控制面实施灵活、动态的流量调度

亲合性部署，通过将微服务调用形态与资源调度系统结合，将一些调用关系紧密、通信量大的服务部署在同一个机器上，并且使用 IPC 代替 RPC 的方式，降低网络通信带来的开销。

流量治理