RPC 框架 | 青训营笔记

74 阅读5分钟

RPC 框架

这是我参与「第五届青训营 」伴学笔记创作活动的第 14 天

1 基本概念

1.1 本地函数调用

  1. 将a和b的值压栈
  2. 通过函数指针找到calculate函数,进入函数取出栈中的值2和3,将其赋予x和y
  3. 计算x*y,并将结果存在z
  4. 将z的值压栈,然后从calculate返回5.从栈中取出z返回值,并赋值给result

1.2 远程函数调用

RPC 需要解决的问题

  1. 函数映射

    我们怎么告诉支付服务我们要调用付款这个函数, 而不是退款或者充值呢?在本地调用中, 函数体是直接通过函数指针来指定的,我们调用哪个方法, 编译器就自动帮我们调用它相应的函数指针。 但是在远程调用中,函数指针是不行的, 因为两个进程的地址空间是完全不一样的。 所以函数都有自己的一个ID,在做 RPC的时候要附上这个ID,还得有个 ID和函数的对照关系表,通过ID找到对应的函数并执行。

  2. 数据转换成字节流

    在本地调用中,我们只需要把参数压到栈里 ,然后让函数自己去栈里读就行。 但是在远程过程调用时, 客户端跟服务端是不同的进程,不能通过内存来传递参数。 这时候就需要客户端把参数先转成一个字节流,传给服务端后, 再把字节流转成自己能读取的格式。

  3. 网络传输

1.3 RPC 概念模型

1984年Nelson发表了论文《Iimplementing Remote Procedure Calls>,其中提出了RPC的过程由5个模型组成: User、 User- Stub、RPC -Runtime、Server- Stub、Server

1.4 一次 RPC 的完整过程

  • IDL (Interface description language)文件 IDL通过一种中立的方式来描述接口,使得在不同平台,上运行的对象和用不同语言编写的程序可以相互通信
  • 生成代码 通过编译器工具把IDL文件转换成语言对应的静态库
  • 编解码 从内存中表示到字节序列的转换称为编码,反之为解码,也常叫做序列化和反序列化
  • 通信协议 规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外,通常还会包含额外的元数据
  • 网络传输 通常基于成熟的网络库走TCP/UDP传输

1.5 RPC 的好处

  1. 单一职责,有利于分工协作和运维开发
  2. 可扩展性强,资源使用率更优
  3. 故障隔离,服务的整体可靠性更高

1.6 RPC 带来的问题

  1. 服务宕机,对方应该如何处理
  2. 在调用过程中发生网络异常, 如何保证消息的可达性
  3. 请求量突增导致服务无法及时处理, 有哪些应对措施

2 分层设计

2.1 编解码层 — 数据格式

  • 语言特定的格式 许多编程语言都内建了将内存对象编码为字节序列的支持,例如 Java 有java.io.Serializable
  • 文本格式 JSON、XML、CSV 等文本格式,具有人类可读性
  • 二进制编码 具备跨语言和高性能等优点,常见有 Thrift 的 BinaryProtocol,Protobuf 等

2.2 编解码层 — 二进制编码

TLV 编码

  • Tag:标签, 可以理解为类型
  • Lenght:长度
  • Value:值,Value也可以是个TLV结构

这里我们可以看到他的第一个byte是类型, 主要用来表示是string还是int还是list等等。 这里不写key的字符串了,比如上面的userName,favoriteNumber等等, 取而代之的是一个field tag的东西, 这个会设置成1,2,3和上面的schema中key字符串前面的数字,也就是用这里来取代了具体的key值, 从而减小的总体的大小,这里打包后压缩到 59个字节。TLV编码结构简单清晰,并且扩展性较好, 但是由于增加了Type和Length两个冗余信息, 有额外的内存开销,特别是在大部分字段都是基本类型的情况下有不小的空间浪费。

2.3 编解码层 — 选型

  • 兼容性 支持自动增加新的字段,而不影响老的服务, 这将提高系统的灵活度

  • 通用性 支持跨平台、跨语言

  • 性能

    从空间和时间两个维度来考虑, 也就是编码后数据大小和编码耗费时长

2.4 协议层 — 概念

协议是双方确定的交流语义,比如:我们设计一个字符串传输的协议,它允许客户端发送一个字符串,服务端接收到对应的字符串。这个协议很简单,首先发送一个4字节的消息总长度,然后再发送1字节的字符集charset长度,接下来就是消息的payload,字符集名称和字符串正文。

特殊结束符:过于简单,对于一 个协议单元必须要全部读入才能够进行处理,除此之外必须要防止用户传输的数据不能同结束符相同,否则就会出现紊乱

HTTP协议头就是以回车(CR)加换行(LF)符号序列结尾。

变长协议:一般都是自定义协议,有 header 和 payload 组成, 会以定长加不定长的部分组成, 其中定长的部分需要描述不定长的 内容长度,使用比较广泛。

2.5 网络通信层 — 网络库

  • 提供易用 API

    封装底层 Socket API

    连接管理和事件分发

  • 功能

    协议支持:tcp、udp 和 uds 等

    优雅退出、异常处理等

  • 性能

    应用层buffer减少 copy

    高性能定时器、对象池等