架构初探
这是我参加【第五届青训营】伴学笔记创作活动的第七天
课程目标
什么是架构 架构定义和演进
企业级后端架构剖析 详细介绍企业级后端架构的形态
企业级后端架构的挑战 面临的挑战，如何解决
后端架构实战
什么是架构-定义
架构，又称软件架构
- 是有关软件整体结构与组件的抽象描述
- 用于指导软件系统各个方面的设计
实现一个软件有很多方法，架构在方法选择上起着至关重要的指导作用
架构重要性？
- 架构没设计好，软件容易崩，用户体验上不去。最终要么重构，要么放弃
- 架构设计好了，软件的稳定性上去了，用户体验高了，口碑一点点就打造出来了
- 良好的架构基础，也为软件的未来发展提供了更多的可能。为用户赋能，实现自身价值
什么是架构-单机
软件系统需要具备对外提供服务，单机，就是把所有功能都实现在一个进程里，并部署在一台机器上
优点：简单
问题：
- 承载能力有限，C10K problem
- 运维需要停服，用户体验较差
什么是架构-单体、垂直应用|垂直切分
单体价格：分布式部署
优点：
- 水平扩容
- 运维不需要停服
问题：
- 职责太多，开发效率不高
- 爆炸半径大
垂直应用架构：按应用垂直切分的单体
优点：
- 一定程度上减少了后端进程职责
- 一定程度上缩小爆炸半径
缺点：
- 没有根本上解决单体架构的问题
什么是架构-SOA、微服务|水平切分
SOA
- 将应用的不同功能单元抽象为服务
- 定义服务之间的通信标准
优点：
- 各服务的职责更清晰
- 运维粒度减小到服务，爆炸半径可控
缺点：
- ESB（企业服务总线）往往需要一整套解决方案
微服务架构：SOA的去中心化演进方向
优点：
- 兼具SOA解决的问题
- 服务间的通信更敏捷、灵活
缺点：
- 运维成本
小结
架构的演进初衷：好比做蛋糕
- 需求量越来越大，终归要增加人手
- 越做越复杂，终归要分工合作
架构的严禁思路：就像切蛋糕。蛋糕越来越大，一口吃不下终归要切分
- 竖着切（垂直切分）
- 横着切（水平切分）
企业级后端架构剖析-云计算
云计算：是指通过软件自动化管理，提供计算资源的服务网站，是现代化互联网大规模熟悉分析和存储的基石
基础：
- 虚拟化技术-整租 vs 合租
- 编排方案-业主 vs 租赁平台
架构
- IaaS - 云基础设施，对底层硬件资源池的抽象 买房子 vs 房屋租赁平台
- PaaS - 基于资源池抽象，对上层提供的弹性资源平台 清包 vs 全包
- SaaS - 基于弹性资源平台构建的云服务 从零培训 vs 雇佣培训过的师傅
- FaaS - 更轻量级的函数服务。好比 LeetCode 等 OJ，刷题时只需要实现函数，不需要关注输入输出流 纯手工制作 vs 蛋糕机批量生产
企业级后端架构剖析-云原生
云原生技术为组织在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供可能
-
弹性资源：
- 虚拟化容器
- 快速扩缩容
-
DevOps：
- 敏捷开发
- CI/CD
-
微服务架构：
- 业务功能单元解耦
- 统一的通信标准
-
服务网站：
- 业务与治理解构
- 异构系统的治理统一化
- 复杂治理能力
云原生之弹性计算资源
弹性计算资源类型：
- 服务资源调度
- 微服务：和面、雕花
- 大服务：烤箱
- 计算资源调度
- 在线计算 - 互联网后端服务 热销榜单
- 离线计算 - 大数据分析。Map-Reduce/Spark/Flinnk 热销榜单更新
- 消息队列
- 在线：削峰、解耦
- 离线：大数据分析
云原生之弹性存储资源
弹性存储资源类型：
- 经典存储：
- 对象存储 - 视频、图片等。结合 CDN 等技术，可以为应用提供丰富的多媒体能力 宣传视频
- 大数据存储 - 应用日志、用户数据等。结合数据挖掘、机器学习等技术，提高应用的体验 用户消费记录
- 关系型数据库 收银记录
- 元数据
- 服务发现：蛋糕店通讯录
- NoSQL
- KV:来个xx蛋糕
- 文档存储
总结：将存储资源当成服务一样
云原生之DevOps
DevOps是云原生时代软件交付的利器，贯穿整个软件开发周期
结合自动化流程，提高软件开发、交付效率
云原生之微服务架构
通信标准：
- HTTP（RESTful API）
- RPC（Thrift gRpc）
微服务中间件 RPC vs HTTP
- 性能
- 服务治理
- 协议可解释性
云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做
云原生之服务网格
服务网格：
- 微服务之间通讯的中间层
- 高性能网格代理
- 业务代码与治理解耦
相比较于 RPC/HTTP 框架：
- 异构系统治理统一化
- 与业务进程解耦，生命周期易管理
企业级后端架构的挑战-问题
挑战： 基础设施层面
- 物理资源是有限的
- 机器
- 带宽
- 资源利用率受制于部署服务
用户层面
- 网络通信开销较大
- 网络抖动导致运维成本提高
- 异构环境下，不同实例资源水位不均
企业级后端架构的挑战-离在线资源并池
核心收益：
- 降低物理资源成本
- 提供更多的弹性资源，增加收入
解决思路：离在线资源并池
- 在线业务的特点 - IO 密集型为主 - 潮汐性、实时性
- 离线业务的特点
- 计算密集型占多数
- 非实时性
企业级后端架构的挑战-自动扩缩容
核心收益：
- 降低业务成本
解决思路：自动扩缩容
- 利用在线业务潮汐性自动扩缩容
企业级后端架构的挑战-微服务亲合性部署
核心收益：
- 降低成本
- 提高服务可用性
解决思路：微服务亲合性部署
- 将满足亲合性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
企业级后端架构的挑战-流量治理
核心收益：
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率，ＤｅｖＯｐｓ发挥到极致
解决思路：基于微服务中间件 ＆ 服务网格的流量治理
- 熔断、重试
- 单元化
- 复杂环境（功能、预览）的流量调度
企业级后端架构的挑战-ＣＰＵ水位负载均衡
核心收益：
- 打平异构环境算力差异
- 为自动扩缩容提供正向输入
解决思路：ＣＰＵ水位负载均衡
- Iass - 提供资源探针
- 服务网格 - 动态负载均衡
后端架构实战－问题提炼
输入：
- 服务网格数据面
- 支持带权重的负载均衡策略
- 注册中心存储了所有容器的权重信息 -宿主机能提供
- 容器的资源使用情况
- 物理资源信息（如ＣＰＵ型号）
关键点：
- 紧急回滚能力
- 大规模
- 极端场景
后端架构实战－自适应静态权重
方案：
- 采集宿主机物理资源信息
- 调整容器注册的权重
优势：
- 复杂度低
- 完全分布式，可用性高
- 微服务中间件无适配成本
缺点：
- 无紧急回滚能力
- 缺乏运行时自适应能力
后端架构实战－自适应静态权重 ＡＩｐｈａ
方案：
- 容器动态权重的自适应调整
- 服务网格的服务发现＆流量调度能力
演进方向：
- 解决无法紧急回滚的问题
- 运行时权重自适应
缺点：
- 过度流量倾斜可能会有异常情况
后端架构实战－自适应静态权重 Ｂｅｔａ
方案：
- 服务网格上报ＲＰＣ指标
演进方向：
- 极端场景的处理成为可能
缺点：
- 时序数据库压力较大
- 动态权重决策中心职责越来越多，迭代－＞变更－＞风险
后端架构实战－自适应静态权重 Release
演进方向：
- 微服务化
- 引入消息队列削峰、解耦
- 离在线链路切分
- 梳理强弱依赖
