这是我参与「第三届青训营 -后端场」笔记创作活动的第7篇笔记
深入浅出PRC框架
ByteMesh
RPC基本概念
-
本地函数调用
-
RPC需要解决的问题
- 函数映射
- 数据转换成字节流
- 网络传输（高效稳定的传输数据）
-
RPC过程的5个模型
- User
- User-Stub
- RPC-Runtime
- Server-Stub
- Server
-
一次RPC的完整过程
-
IDL
- IDL通过一种中立的方式来描述接口，使得在不同的平台上运行的对象和用不同语言编写的程序可以相互通信
-
生成代码
- 从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化
-
通信协议
- 规范了数据在网络中的传输内容和格式，除必须的请求/响应数据外，通常会包括额外的元数据‘
-
网络传输
- 通常基于成熟的网络库走TCP/UDP传输
RPC的好处
- 单一职责，有利于分工协作和运维开发
- 可拓展性强，资源使用率更优
- 故障隔离，服务的整体可靠性更高
RPC带来的问题
- 服务宕机，对方该如何处理
- 在调用过程中发生网络异常，如何保障消息的可达性
- 请求量突增导致服务无法及时处理，有哪些应对措施
分层设计
- Code 用户编写自己的业务逻辑代码
- Service Processor 通过代码生成工具把IDL文件转换成不同语言对应的lib代码，里面封装了编解码逻辑
- TProtocal 框架的编解码层
- TTransport 框架的协议层
- Network IO 框架的网络通信层
编解码层
-
Client Server 依赖同一份IDL文件生成不同语言的CodeGen
-
数据格式
-
语言特定的格式
- 许多编程语言都内建了将内存对象编码为字节序列的支持，例如Java有java.io.Serializable
-
文本格式
- JSON,XML,CSV等文本格式，具有人类可读性
-
二进制编码
- 具有跨语言和高性能等优点，常见有Thrift的BinaryProtocol，Protobuf
-
协议层
-
特殊字符
- 一个特殊字符作为每个协议单元结束的标示 “\r\n”
-
变长协议
- 以定长加不定长的部分组成，其中定长的部分需要描述补不定长的内容长度
-
协议层构造
- LENGTH 数据包大小，不包含自身
- HEADER MAGIC 标识版本信息，协议解析时后快速校验
- SEQUENCE NUMBER 表示数据包的seqlD，可用于多路复用，单链接内递增
- HEADER SIZE 头部胀肚 从第14个字节开始计算一直到PAYLOAD
- PROTOCOL ID 编解码方式 有Binary和Compact两种
- TRANSFORM ID 压缩方式 汝zlib和snappy
- INFO ID 传递一些定制的meta信息
- PAYLOAD 消息体
-
网络通信层
-
应用层 网络层
-
网络库
-
提供易用API
- 封装底层Socket API
- 连接管理和事件分发
-
功能
- 协议支持 tcp udp uds
- 优雅退出，异常处理
-
性能
- 应用层buffer 减少 copy
- 高性能定时器 对象池
-
-
构建RPC框架的关键指标
-
稳定性
-
熔断
- 保护调用方，防止被调用的服务出现问题而影响到整个链路
-
限流
- 保护被调用方，防止大流量把服务压垮
-
超时控制
-
避免浪费资源在不可用节点上
-
请求成功率
- 负载均衡
- 重试
-
长尾请求
-
-
框架通过注册中间件的方式，实现这些策略，超时，熔断，重试，限流，负载均衡，BackuoRequest
-
-
易用性
-
开箱即用
- 合理的默认参数选项，丰富的文档
-
周边工具
- 生成代码工具，脚手架工具
-
-
扩展性
- Middleware
- Option
- 编解码层
- 协议层
- 网络传输层
- 代码生成共工具插件扩展
-
观测性
- Log日志 Metric监控 Tracing链路追踪
- 内置观测性服务
-
高性能
-
高吞吐
-
低延迟
-
手段
- 连接池
- 多路复用
- 高性能编解码协议
- 高性能网络库
-
1，框架通过中间件来注入各种服务治理策略，保障服务的稳定性
2，通过提供合理的默认配置和方便的命令行工具可以提升框架的易用性
3，框架应当提供丰富的扩展点，例如核心的传输层和协议层
4，观测性除了传统的Log，Mertic，和Tracing之外，内置状态暴露服务也很有必要
5，性能可以从多个层面去优化，例如选择高性能的编解码协议和网络库
-
\
