RPC(远程函数调用 Remote Procedure Calls)
RPC需要解决的问题
1.函数映射 2.数据转换成字节流 3.网络传输
一次RPC的完整过程
- IDL文件 IDL通过一种中立的方式来描述接口,使得在不同平台上运行的对象和用不同语言编写的程序可以互相通信
- 生成代码 通过编译工具把IDL文件转换成语言对应的静态库
- 编解码 从内存中表示到字节序列的转换称为编码,反之为解码,也常叫做序列化和反序列化
- 通信协议 规范了数据在网络中的传输内容和格式。除必须的请求/相应数据外,通常还会包含额外的元数据
- 网络传输 通常基于成熟的网络库走TCP/UDP传输
RPC的好处
1.单一职责,有利于分工协作和运维开发 2.可拓展性强,资源使用率更优
- 故障隔离,服务的整体可靠性更高
编解码层-数据格式
- 语言特定的格式 许多编程语言都内建了将内存对象编码为字节序列的支持,李儒Java有java.io.Serializable
- 文本格式 JSON,XML,CSV等文本格式,具有人类可读性
- 二进制编码 具备跨语言和高性能等优点,常见有Thrift的BinaryProtocol,Protobuf等
协议层
概念
- 特殊结束符 一个特殊字符作为每个协议单元结束的标识
- 变长协议 以定长加不定长的部分组成,其中定长的部分需要描述不定长的内容长度
协议构造
网络通信层
Sockets API
网络库
- 提供易用API 底层封装Socket API 连接管理和事件分发
- 功能 协议支持:tcp,udp和uds等 优雅退出,异常处理等
- 性能 应用层buffer减少copy 高性能定时器,对象池等
稳定性
- 熔断 保护调用方,防止被调用的服务器出现问题而影响到整个链路
- 限流 保护被调用方,防止大流量把服务压垮
- 超时控制 避免浪费资源在不可用节点上
请求成功率
-
负载均衡
-
重试
长尾请求
Backup Request
注册中间件
可选功能
易用性
- 开箱即用 合理的默认参数选项、丰富的文档
- 周边工具 生成代码工具、脚手架工具
- 简单的命令行工具
扩展性
- Middleware
- Option
- 编解码层
- 协议层
- 网络传输层
- 代码生成工具插件扩展
观测性
- Log、Metric、Tracing
- 内置观测性服务
高性能
场景
- 单机多级
- 单连接多连接
- 单/多client 单/多server
- 不同大小的请求包
- 不同请求类型:例如pingpong、streaming等
目标
- 高吞吐
- 低延迟
手段
- 连接池
- 多路复用
- 高性能编解码协议
- 高性能网络库