01 什么是架构
单机
单体、垂直应用 - 垂直切分
SOA、微服务 - 水平切分
02 企业级后端架构剖析
云计算
IaaS - PaaS - SaaS - FaaS
云原生
弹性资源：
- 计算资源：服务资源调度、计算资源调度、消息队列
- 存储资源：经典（对象、大数据）、关系型数据库、元数据、NoSQL
Devops
微服务架构
服务网格
03 企业级后端架构的挑战
挑战
- 基础设施层面
- 物理资源是有限的（机器、带宽）
- 资源利用率受限于部署服务
- 用户层面
- 网络通信开销较大
- 网络抖动导致运维成本提高
- 异构环境下，不同示例资源水位不均
解决方案：离在线资源并池
核心受益
- 降低物理资源成本
- 提供更多的弹性资源，增加收入
在线业务特点
- IO密集型为主
- 潮汐性、实时性
离线业务特点
- 计算密集型占大多数
- 非实时性
解决方案：自动扩缩容
核心收益
- 降低业务成本
解决思路
- 利用在线业务潮汐性自动扩缩容
解决方案：微服务亲合性部署
核心收益
- 降低业务成本
- 提高服务可用性
解决思路
- 将满足亲合性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
解决方案：流量治理
核心收益
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率，DevOps 发挥到极致
解决思路: 基于微服务中间件 & 服务网格的流量治理
- 熔断、重试
- 单元化
- 复杂环境 (功能、预览) 的流量调度
解决方案：CPU水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩容提供正向输入
解决思路: CPU 水位负载均衡
- laaS - 提供资源探针
- 服务网格 - 动态负载均衡
04 后端架构实战
问题背景：CPU水位负载均衡，应该如何设计？
问题提炼
输入:
- 服务网格数据面
- 支持带权重的负载均衡策略
- 注册中心存储了所有容器的权重信息
- 宿主机能提供
- 容器的资源使用情况
- 物理资源信息(如 CPU 型号)
关键点:
- 紧急回滚能力
- 大规模
- 极端场景
自适应静态权重
方案:
- 采集宿主机物理资源信息
- 调整容器注册的权重
优势:
- 复杂度低
- 完全分布式，可用性高
- 微服务中间件无适配成本
缺点:
- 无紧急回滚能力
- 缺乏运行时自适应能力
自适应动态权重 Alpha
方案:
- 容器动态权重的自适应调整
- 服务网格的服务发现 & 流量调度能力
演进方向:
- 解决无法紧急回滚的问题
- 运行时权重自适应 缺点:
- 过度流量倾斜可能会有异常情况
自适应动态权重 Beta
方案:
- 服务网格上报 RPC 指标
演进方向:
- 极端场景的处理成为可能
缺点:
- 时序数据库压力较大
- 动态权重决策中心职责越来越多，迭代 -> 变更 -> 风险
自适应动态权重 Release
演进方向:
- 微服务化
- 引入消息队列削峰、解耦
- 离在线链路切分
- 梳理强弱依赖
