这是我参与「第五届青训营 」伴学笔记创作活动的第 8 天
前言
这是我将参加青训营期间的收获进行整理和总结,同时便于日后复习和查阅。如果能给各位小伙伴提供些帮助,也是我的荣幸,希望大家可以多多赐教,一起学习和交流。
本篇文章内容:
- 架构的定义和演进
- 企业级后端架构刨析
- 企业级后端架构的挑战
- 后端架构实战
一、什么是架构
01.定义
架构,又称软件架构
- 是有关软件整体结构与组件的抽象描述
- 用于指导软件系统各方面的设计
02.单机
软件系统需要具备对外提供服务,单机,就是把所有功能实现在一个进程里,并部署在一台机器上。
优点:
- 简单
问题:
- 运维需要停服
- 承载能力有限,了解下 c10k 问题
单机服务的模式,除了简单没有任何优点。单机服务的形态一般只适合出现在预研或初创阶段。
03.单体、垂直应用 | 垂直切分
单体结构: 分布式部署
垂直应用架构: 按应用垂直切分的单体
优点:
- 水平扩容
- 运维不需要停服
问题:
- 职责太多,开发效率不高
- 爆炸半径大
04.SOA、微服务 | 水平切分
SOA(面向服务架构)
- 将应用的不同功能单元抽象为服务
- 定义服务之间的通信标准
微服务架构:SOA的去中心化演进方向
在 SOA 架构中,ESB 起到了至关重要的作用。但从架构拓扑来看,它更像是一个集中式的模块。有一个 SOA 分布式演进的分支,最终的形态便是微服务。
- 数据一致性
- 高可用
- 治理
- 解耦 vs 过微
小结
- 架构演进的初衷:满足软件迭代诉求,提高迭代效率
- 架构演进的思路:垂直切分——分布式,水平切分——分层/模块化
二、企业级后端架构刨析
01.云计算
云计算: 是指通过软件自动化管理,提供计算资源的服务网站,是现代互联网大规模熟悉分析和存储的基石。
基础:
-
虚拟化技术
- 硬件层面(VM 虚拟机)-KVM/Xen/VMware
- 操作系统层面(Container 容器) - LCX/Docker/Kata Container
- 网络层面 - Linux Brdge/Open v Switch
-
编排方案
- VM - OpenStack/VMWare Workstation
- Container - Kubernetes/Docker Swarm
架构:
-
云服务
-
IaaS(lnfrastructure as a Service)
- 云基础设施,对底层硬件资源池的抽象
-
PaaS(Platware as a Service)
- 基于资源池抽象,对上层提供的弹性资源平台
-
SaaS(Software as a Service)
- 基于弹性资源平台构建的云服务
-
FaaS(Function as a Service)
- 更轻量级的函数服务。好比 LeetCode 等 OJ,刷题时只需要实现函数,需要关注输入输出流
-
-
云部署模式(拓展)
- 私有云 - 企业自用
- 公有云 - AWS/Azure/Google Cloud/Huawei
- 混合云
02.云原生
云原生实际是云原生(计算)的简称,它是元计算发展到现在的一种形态。云原生计数为组织(公司)在公有云、自由云、混合云等新型的动态环境中,构建和运行可弹性拓展的应用提供了可能。
云原生之弹性资源
弹性资源
基于虚拟化技术,提供的可以快速扩缩容的能力。可以分为弹性计算资源和弹性存储资源两个方面。
弹性计算资源类型:
- 服务资源调度:微服务/大服务
-
计算资源调度:
- 在线计算 - 互联网后端服务
- 离线计算 - 大数据分析。Map-reduce/Spark/Flinnk
-
消息队列:
- 在线队列 - 削峰、解耦
- 离线队列 - 结合数据分析的一整套方案,如 ELK
弹性存储资源类型:
-
经典:
- 对象存储 - 视频、图片等。结合 CDN 等技术,可以为应用丰富的多媒体能力
- 大数据存储 - 应用日志、用户数据等。结合数据挖掘、机器学习等技术,提高应用的体验
-
关系型数据库
-
元数据:
- 服务发现
-
NoSQL:
- KV 存储 - Redis
- 文档存储 - Mongo
云原生之DevOps
DevOps 是云原生时代软件交付的利器,贯穿整个软件开发周期。结合自动化流程,提高软件开发、交付效率。
- 敏捷开发
- CI/CD
云原生之微服务架构
微服务架构下,服务之间的通讯标准是基于协议而不是 ESB 的。
- HTTP - H1/H2
- RPC - Apache Thrift/gRPC
如何在 HTTP 和 RPC 之间选择?
- 性能 - RPC 协议往往具备较好的压缩率,性能较高。如 Thrift, Protocol Buffers
- 服务治理 - RPC 中间件往往集成了丰富的服务治理能力。如 熔断、降级、超时等
- 可解释性 - HTTP 通信的协议往往首选 JSON,可解释性、可调试性更好
云原生之服务网络
什么是服务网格:
- 微服务之间通讯的中间层
- 一个高性能的4层网络代理
- 将流量层面的逻辑与业务进程解耦
服务网格相比较于 RPC/HTTP 框架:
- 实现异构系统治理统一化
- 与业务进程解耦,生命周期易管理
三、企业级后端架构的挑战
01.问题
挑战:
-
基础设施层面
-
物理资源是有限的
- 机器
- 带宽
-
资源利用率受制于部署服务
-
-
用户层面
- 网络通信开销较大
- 网络抖动导致运维成本提高
- 异构环境下,不同实例资源水位不均
02.离在线资源并池
核心收益:
- 降低物理资源成本
- 提供更多的弹性资源,增加收入
解决思路:离在线资源并池
-
在线业务的特点
- IO 密集型为主
- 潮汐性、实时性
-
离线业务的特点
- 计算密集性占多数
- 非实时性
03.自动扩缩容
核心收益:
- 降低业务成本
解决思路:
- 利用在线业务潮汐性自动扩缩容
04.微服务亲和性部署
核心收益:
- 降低业务成本
- 提高服务可用性
解决思路:微服务亲和性部署
- 将满足亲和性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施里灵活、动态地流量调度
05.流量治理
核心收益:
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率,DevOps 发挥到极致
解决思路:基于微服务中间件 & 服务网格的的流量治理
- 熔断、重试
- 单元化
- 复杂环境(功能、预览)的流量调度
06.CUP 水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩容提供正向输入
解决思路:CPU 水位负载均衡
-
IaaS
- 提供资源探针
-
服务网格
- 动态负载均衡
四、后端架构实战学习
问题:
如何设计一个根据主机层面的资源信息,实时进行流量调度的系统,打平不同宿主机异构环境的算力差异。
输入:
-
服务网格数据面
- 支持待权重的负载均衡策略
-
注册中心存储了所有容器的权重信息
-
宿主机能提供
- 容器的资源使用情况
- 物理资源信息(如 CPU 型号)
关键点:
- 紧急回滚能力
- 大规模
- 极端场景
演进方向:
- 微服务化
- 引入消息队列削峰、解耦
- 离在线链路切分
- 梳理强弱依赖
引用
- 字节内部课 - 后端入门 - 开发与迭代
- CNCF landscape