这是我参与「第五届青训营 」笔记创作活动的第9天
背景
为什么 微服务架构是当前大多数互联网公司的标准架构
学到什么 微服务架构由来及原理 服务治理是如何工作的
1 微服务架构介绍
2微服务架构原理和特征
3核心服务治理功能
4字节跳动服务治理实践
1微服务架构介绍
1.1系统架构演变历史
为什么 互联网爆炸性发展 硬件设备快速发展 需求复杂性多样化 开发人员急剧增加 计算机理论技术的发展
单体 垂直应用 分布式 SOA 微服务
单体架构 all in one process
优势 性能最高 冗余小
劣势 debug困难 模块相互影响 模块分工、开发流程
垂直应用 按业务线垂直划分
优势 业务独立开发维护 劣势 不同业务存在冗余 每个业务还是单体
分布式架构 抽出业务无关公共模块
优势 业务无关的独立服务 劣势 服务模块bug可导致全站瘫痪 调用关系复杂 不同服务冗余
SOA架构Service Oriented Architecture 面向服务
服务注册中心
优势 服务注册 劣势 整个设计是中心化的 需要从上至下设计 重构困难
微服务架构 彻底的服务化
优势 开发效率 也无独立设计 自下而上 故障隔离
劣势 治理、运维难度 观测挑战 安全性 分布式系统
1.2微服务架构概览
1.3微服务架构核心要素
服务治理 可观测性 安全
1.4总结
系统架构演变历史 微服务架构整体概览 微服务架构中核心要素
2微服务架构原理及特征
2.1基本概念
服务 一组相同逻辑的运行实体 实例 实例与进程的关系 集群 常见实例承载形式 有状态/无状态服务
服务间通信 单体服务 简单函数调用 微服务 服务间通信意味网络传播
2.2服务注册及发现
DNS？ 本地DNS存在缓存，导致延时 负载均衡问题 不支持服务实例的探活检查 域名无法配置端口
解决思路 新增异构统一的服务注册中心 用于存储服务名到服务实例的映射
2.3 流量特征 统一网关入口 内网通信多数采用RPC 网状调用链路
2.4总结 微服务架构中基本组件及术语 服务注册及发现 无损服务实例上下线流程 微服务架构基本流量特征
3 核心服务治理功能
3.1 服务发布 让一个服务升级运行新的代码的过程
服务不可用 服务抖动 服务回滚
蓝绿部署 简单稳定 但需要两倍资源
灰度发布 金丝雀发布
3.2流量治理traffic control 基于地区 集群 实例 请求等维度
3.3负载均衡 负责分配请求在每个下游实例上的分布 Round Robin Random Ring Hash Least Request
3.4稳定性治理 线上服务总是会出问题的 与程序的正确性无关
网络攻击 流量突增 机房断电 光纤被挖 机器故障 网络故障 机房空调故障
限流 熔断 过载保护 降级
3.5总结 服务发布：蓝绿部署、灰度发布 基于地区集群实例请求等维度的流量治理功能 几种常见的负载均衡策略 微服务架构中的稳定型治理功能
4服务治理实例
4.1重试的意义
本地函数调用异常 没有重试必要 参数非法 OOM Out Of Memory NPE Null Pointer Exception 边界case 系统崩溃 死循环 程旭异常退出
远程函数调用异常 重试可以避免偶发错误 提高SLA Service-level Agreement 网络抖动 下游负载高 超时 下游机器宕机 本地机器负载高 调度超时 下游熔断限流
降低错误率 降低长尾延时 重试请求有机会提前返回 容忍暂时性错误 如网络抖动 避开下游故障实例 如机器故障
4.2重试的难点 幂等性 重试风暴 超时设置
4.3重试策略
限制重试比例 重试次数占所有请求比例不超过该阈值
防止链路重试 理想情况下只有最下层发生重试 可以返回特殊的status表明 请求失败但别重试
Hedged requests对冲请求 对可能超时或延时高的请求 重新向另一个下游实例发送一个相同的请求 并等待先到达的相应
4.4重试效果验证
4.5总结 重试意义及难点 应对重试风暴的策略
