企业后端架构的挑战|青训营笔记

50 阅读2分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 17 天

1. 企业后端架构的挑战

基础设施层面:

  • 物理资源是有限的

    • 机器
    • 带宽
  • 资源利用率受制于部署服务

用户层面

  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下,不同实例资源水位不均

image-20230227223627788.png

1.1 离在线资源并池

考虑到在线业务的潮汐性,物理资源的用量不是一成不变的

核心收益:

  • 降低物理资源成本
  • 提供更多的弹性资源,增加收入

解决思路:离在线资源并池

在线业务特点

  • IO 密集型为主
  • 潮汐性、实时性

离线业务的特点

  • 计算密集型占多数
  • 非实时性

image-20230227224109637.png

1.2 自动扩缩容

核心收益:

  • 降低业务成本

解决思路:

自动扩缩容

  • 利用在线业务潮汐性自动扩缩容

image-20230227224337692.png 扩缩容依据什么指标?

1.3 微服务亲合性部署

微服务之间的通信成本较高,是否可以:

  • 形态上是微服务架构
  • 通信上是单体架构

亲合性部署,通过将微服务调用形态与资源调度系统结合,将一些调用关系紧密、通信量大的服务部署在同一个机器上,并且使用 IPC 代替 RPC 的方式,降低网络通信带来的开销

核心收益:

  • 降低业务成本
  • 提高服务可用性

解决思路:微服务亲合性部署

  • 将满足亲合性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度

image-20230227224633095.png

1.4 流量治理

核心收益:

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率,DevOps 发挥到极致

解决思路:基于微服务中间件 & 服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境(功能、预览)的流量调度

1.5 CPU 水位负载均衡

核心收益:

  • 打平异构环境算力差异
  • 为自动扩缩容日提供正向输入

解决思路:CPU 水位负载均衡

  • laaS

    • 提供资源探针
  • 服务网格

    • 动态负载均衡

image-20230227225057336.png