RPC 框架
这是我参与「第五届青训营 」伴学笔记创作活动的第 14 天
1 基本概念
1.1 本地函数调用
- 将a和b的值压栈
- 通过函数指针找到calculate函数,进入函数取出栈中的值2和3,将其赋予x和y
- 计算x*y,并将结果存在z
- 将z的值压栈,然后从calculate返回5.从栈中取出z返回值,并赋值给result
1.2 远程函数调用
RPC 需要解决的问题
-
函数映射
我们怎么告诉支付服务我们要调用付款这个函数, 而不是退款或者充值呢?在本地调用中, 函数体是直接通过函数指针来指定的,我们调用哪个方法, 编译器就自动帮我们调用它相应的函数指针。 但是在远程调用中,函数指针是不行的, 因为两个进程的地址空间是完全不一样的。 所以函数都有自己的一个ID,在做 RPC的时候要附上这个ID,还得有个 ID和函数的对照关系表,通过ID找到对应的函数并执行。
-
数据转换成字节流
在本地调用中,我们只需要把参数压到栈里 ,然后让函数自己去栈里读就行。 但是在远程过程调用时, 客户端跟服务端是不同的进程,不能通过内存来传递参数。 这时候就需要客户端把参数先转成一个字节流,传给服务端后, 再把字节流转成自己能读取的格式。
-
网络传输
1.3 RPC 概念模型
1984年Nelson发表了论文《Iimplementing Remote Procedure Calls>,其中提出了RPC的过程由5个模型组成: User、 User- Stub、RPC -Runtime、Server- Stub、Server
1.4 一次 RPC 的完整过程
- IDL (Interface description language)文件 IDL通过一种中立的方式来描述接口,使得在不同平台,上运行的对象和用不同语言编写的程序可以相互通信
- 生成代码 通过编译器工具把IDL文件转换成语言对应的静态库
- 编解码 从内存中表示到字节序列的转换称为编码,反之为解码,也常叫做序列化和反序列化
- 通信协议 规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外,通常还会包含额外的元数据
- 网络传输 通常基于成熟的网络库走TCP/UDP传输
1.5 RPC 的好处
- 单一职责,有利于分工协作和运维开发
- 可扩展性强,资源使用率更优
- 故障隔离,服务的整体可靠性更高
1.6 RPC 带来的问题
- 服务宕机,对方应该如何处理
- 在调用过程中发生网络异常, 如何保证消息的可达性
- 请求量突增导致服务无法及时处理, 有哪些应对措施
2 分层设计
2.1 编解码层 — 数据格式
- 语言特定的格式 许多编程语言都内建了将内存对象编码为字节序列的支持,例如 Java 有java.io.Serializable
- 文本格式 JSON、XML、CSV 等文本格式,具有人类可读性
- 二进制编码 具备跨语言和高性能等优点,常见有 Thrift 的 BinaryProtocol,Protobuf 等
2.2 编解码层 — 二进制编码
TLV 编码
- Tag:标签, 可以理解为类型
- Lenght:长度
- Value:值,Value也可以是个TLV结构
这里我们可以看到他的第一个byte是类型, 主要用来表示是string还是int还是list等等。 这里不写key的字符串了,比如上面的userName,favoriteNumber等等, 取而代之的是一个field tag的东西, 这个会设置成1,2,3和上面的schema中key字符串前面的数字,也就是用这里来取代了具体的key值, 从而减小的总体的大小,这里打包后压缩到 59个字节。TLV编码结构简单清晰,并且扩展性较好, 但是由于增加了Type和Length两个冗余信息, 有额外的内存开销,特别是在大部分字段都是基本类型的情况下有不小的空间浪费。
2.3 编解码层 — 选型
-
兼容性 支持自动增加新的字段,而不影响老的服务, 这将提高系统的灵活度
-
通用性 支持跨平台、跨语言
-
性能
从空间和时间两个维度来考虑, 也就是编码后数据大小和编码耗费时长
2.4 协议层 — 概念
协议是双方确定的交流语义,比如:我们设计一个字符串传输的协议,它允许客户端发送一个字符串,服务端接收到对应的字符串。这个协议很简单,首先发送一个4字节的消息总长度,然后再发送1字节的字符集charset长度,接下来就是消息的payload,字符集名称和字符串正文。
特殊结束符:过于简单,对于一 个协议单元必须要全部读入才能够进行处理,除此之外必须要防止用户传输的数据不能同结束符相同,否则就会出现紊乱
HTTP协议头就是以回车(CR)加换行(LF)符号序列结尾。
变长协议:一般都是自定义协议,有 header 和 payload 组成, 会以定长加不定长的部分组成, 其中定长的部分需要描述不定长的 内容长度,使用比较广泛。
2.5 网络通信层 — 网络库
-
提供易用 API
封装底层 Socket API
连接管理和事件分发
-
功能
协议支持:tcp、udp 和 uds 等
优雅退出、异常处理等
-
性能
应用层buffer减少 copy
高性能定时器、对象池等