这是我参与「第五届青训营」伴学笔记创作活动的的第10天
本节课内容如下
企业级后端架构的挑战
目录
0 问题
1 离在线资源并池
2 自动扩缩容
3 微服务亲合性部署
4 流量治理
5 CPU水位负载均衡
1-0 问题
挑战:
-
基础设施层面
-
物理资源是有限的
- 带宽
- 机器
-
资源利用率受制于部署服务
-
-
用户层面
- 网络通信开销较大
- 网络抖动导致运维成本提高
- 异构环境下,不同实例资源水位不均
1-1 离在线资源并池
核心收益:
- 降低物理资源成本
- 提供更多的弹性资源,增加收入
解决思路:离在线资源并池
-
在线业务的特点
- IO密集型为主
- 潮汐性、实时性
-
离线业务的特点
- 计算密集型占多数
- 非实时性
问题:同一个机器怎么分离离在线资源?
思路:离在线资源使用不同的CPU
1-2 自动扩缩容
核心收益:
- 降低业务成本
解决思路:
自动扩缩容
- 利用在线业务潮汐性自动扩缩容
问题:扩缩容依据什么指标
根据不同的场景具体设计,其中CPU使用量是一个黄金指标
1-3 微服务亲合性部署
核心收益:
- 降低业务成本
- 提高服务可用性
解决思路:
- 将满足亲合性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
1-4 流量治理
核心收益:
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率,DevOps发挥到极致
解决思路:基于微服务中间件&服务网格的流量治理
- 熔断、重试
- 单元化
- 复杂环境(功能、预览)的流量调度
1-5 CPU水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩容提供正向收入
解决思路:CPU水位负载均衡
-
IaaS
- 提供资源探针
-
服务网格
- 动态负载均衡