RPC原理与实现 ｜ 青训营笔记

凤2018
89 阅读8分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 5 天。

前言

这个是go语言框架与实现的开篇之课，大家可能在大学课程或者平常实践中接触过一些框架， 但可能只停留在使用的层面，接下来的课程会带大家由浅入深地讲解一些框架的内部原理，这门课主要是讲解RPC框架。 本节课将由浅入深介绍有关框架的内部原理，重点讲解 RPC 框架的基本概念，并从编码层、传输协议层和网络通信层分析其分层设计。

基本概念

本地函数调用

func main( ){
    vara=2
    varb=3
    result := calculate(a, b)
    fmt.Println(result)
    return
}

func calculate(x, y int) {
    Z :=x*y
    return Z
}

  1. 将a和b的值压栈

  2. 通过函数指针找到calculate函数，进入函数取出栈中的值2和3,将其赋予x和y

  3. 计算x*y，并将结果存在z

  4. 将Z的值压栈，然后从calculate返回

  5. 从栈中取出Z返回值，并赋值给result

注意以上步骤只是为了说明原理。事实上编译器经常会做优化，对于参数和返回值少的情况会直接将其存放在寄存器，而不需要压栈弹栈的过程，甚至都不需要调用call, 而直接做inline操作。

远程函数调用(RPC-Remote Procedure Calls)

RPC需要解决的问题：

  1. 函数映射

  2. 数据转换成字节流

  3. 网络传输

函数映射

例如我们怎么告诉支付服务我们要调用付款这个函数，而不是退款或者充值呢?在本地调用中，函数体是直接通过函数指针来指定的，我们调用哪个方法，编译器就自动帮我们调用它相应的函数指针。但是在远程调用中，函数指针是不行的，因为两个进程的地址空间是完全不一样的。所以函数都有自己的一个ID，在做RPC的时候要附上这个ID,还得有个ID和函数的对照关系表，通过ID找到对应的函数并执行。

image.png

一次RPC的完整过程

  • IDL (Interface description language)文件

    IDL通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信；

  • 生成代码

    通过编译器工具把IDL文件转换成语言对应的静态库；

  • 编解码

    从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化；

  • 通信协议

    规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外，通常还会包含额外的元数据；

  • 网络传输

    通常基于成熟的网络库走TCP/UDP传输；

image.png

相比本地函数调用，远程调用的话我们不知道对方有哪些方法，以及参数长什么样，所以需要有一种方式来描述或者说声明我有哪些方法， 方法的参数都是什么样子的，这样的话大家就能按照这个来调用，这个描述文件就是IDL文件。刚才我们提到服务双方是通过约定的规范进行远程调用，双方都依赖同一份IDL文件， 需要通过工具来生成对应的生成文件，具体调用的时候用户代码需要依赖生成代码，所以可以把用户代码和生成代码看做一个整体。编码只是解决了跨语言的数据交换格式，但是如何通讯呢?需要制定通讯协议，以及数据如何传输?我的网络模型如何呢?那就是这里的transfer要做的事情。

RPC 的好处

  1. 单一职责，有利于分工协作和运维开发

  2. 可扩展性强，资源使用率更优

  3. 故障隔离，服务的整体可靠性更高

分层设计

编解码层--数据格式

  • 语言特定的格式

    许多编程语言都内建了将内存对象编码为字节序列的支持，例如Java有java.io.Serializable

    这种编码形式好处是非常方便，可以用很少的额外代码实现内存对象的保存与恢复，这类编码通常与特定的编程语言深度绑定，其他语言很难读取这种数据。如果以这类编码存储或传输数据，那你就和这门语言绑死在一起了。安全和兼容性也是问题。

  • 文本格式

    JSON、XML、CSV 等文本格式，具有人类可读性

    文本格式具有人类可读性，数字的编码多有歧义之处，比如XML和CSV不能区分数字和字符串，JSON虽然区分字符串和数字，但是不区分整数和浮点数，而且不能指定精度，处理大量数据时，这个问题更严重了;没有强制模型约束，实际操作中往往只能采用文档方式来进行约定，这可能会给调试带来一些不便。由于JSON在一 些语言中的序列化和反序列化需要采用反射机制，所以在性能比较差。

  • 二进制编码

    具备跨语言和高性能等优点，常见有Thrift 的BinaryProtocol, Protobuf 等

    实现可以有很多种，TLV 编码和Varint编码

编解码层-选型

  • 兼容性（支持自动增加新的字段，而不影响老的服务，这将提高系统的灵活度）

    移动互联时代，业务系统需求的更新周期变得更快，新的需求不断涌现，而老的系统还是需要继续维护。如果序列化协议具有良好的可扩展性，支持自动增加新的业务字段，而不影响老的服务，这将大大提供系统的灵活度。

  • 通用性（支持跨平台、跨语言）

    通用性有两个层面的意义: 第一、技术层面，序列化协议是否支持跨平台、跨语言。如果不支持，在技术层面上的通用性就大大降低了。 第二、流行程度，序列化和反序列化需要多方参与，很少人使用的协议往往意味着昂贵的学习成本;另-方面，流行度低的协议，往往缺乏稳定而成熟的跨语言、跨平台的公共包。

  • 性能（从空间和时间两个维度来考虑，也就是编码后数据大小和编码耗费时长）

    第一、空间开销(Verbosity) ，序列化需 要在原有的数据上加上描述字段，以为反序列化解析之用。如果序列化过程引入的额外开销过高，可能会导致过大的网络，磁盘等各方面的压力。对于海量分布式存储系统，数据量往往以TB为单位，巨大的的额外空间开销意味着高昂的成本。 第二、时间开销(Complexity)， 复 杂的序列化协议会导致较长的解析时间，这可能会使得序列化和反序列化阶段成为整个系统的瓶颈。

协议层--概念

  • 协议是双方确定的交流语义，比如:我们设计一个字符串传输的协议，它允许客户端发送一个字符串， 服务端接收到对应的字符串。这个协议很简单，首先发送一个4字节的消息总长度，然后再发送1字节的字符集charset长度，接下来就是消息的payload,字符集名称和字符串正文。

  • 特殊结束符:过于简单，对于一个协议 单元必须要全部读入才能够进行处理，除此之外必须要防止用户传输的数据不能同结束符相同，否则就会出现紊乱

  • HTTP协议头就是以回车(CR)加换行(LF)符号序列结尾。

  • 变长协议:一般都是自定 义协议，有header和payload组成，会以定长加不定长的部分组成， 其中定长的部分需要描述不定长的内容长度，使用比较广泛。

网络通信层--网络库

  • 提供易用API

    封装底层Socket API

    连接管理和事件分发

  • 功能

    协议支持: tcp、 udp和uds等

    优雅退出、异常处理等

  • 性能

    应用层buffer减少copy

    高性能定时器、对象池等

关键指标

  1. 框架通过中间件来注入各种服务治理策略，保障服务的稳定性

  2. 通过提供合理的默认配置和方便的命令行工具可以提升框架的易用性

  3. 框架应当提供丰富的扩展点，例如核心的传输层和协议层

  4. 观测性除了传统的Log、Metric和Tracing之外，内置状态暴露服务也很有必要

  5. 性能可以从多个层面去优化，例如选择高性能的编解码协议和网络库

引用参考

  1. 字节跳动内部课程juejin.cn/course/byte…

  2. RPC的概念模型

  3. THeader 协议

avatar
文章
阅读
粉丝