这是我参与「第五届青训营 」伴学笔记创作活动的第 15 天

一、本堂课重点内容

• RPC 框架分层设计
• RPC 关键指标分析与企业实践

二、详细知识点介绍

1. 基本概念

1.1 本地函数调用

func main(){
	var a = 2
	var b = 3
	result := calculate(a,b)
	fmt.Println(result)
	return
}

func calculate(x, y, int){
	z := x*y
	return z
}

1. 将a和b的值压栈
2. 通过函数指针找到calculate函数，进入函数取出栈中的值2和3，将其赋予x和y。
3. 计算x*y，并将结果存在Z。
4. 将Z的值压栈，然后从calculate返回。
5. 从中取出Z返回值，并赋值给result。

1.2 远程函数调用

1. 函数映射

在本地调用中，函数体是直接通过函数指针来指定的，我们调用哪个方法，编译器就自动帮我们调用它相应的函数指针。 但是在远程调用中，两个进程的地址空间完全不一样，所以函数都有自己的一个ID，在做 RPC的时候要附上这个ID。 还需要有个 ID 和函数的对照关系表，通过 ID找到对应的函数并执行。

2. 数据转换成字节流

在本地调用中，我们只需要把参数压到栈里，然后让函数自己去栈里读就行。 但是在远程过程调用时，客户端跟服务端是不同的进程，不能通过内存来传递参数。这时候就需要客户端把参数先转成一个字节流，传给服务端后，再把字节流转成自己能读取的格式。

3. 网络传输

1.3 RPC概念模型

RPC由5个模块：User、User-Stub、RPC-Runtime、Server-Stub、Server 组成。

1.4 一次RPC的完整过程

• IDL文件
  • 通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信
• 生成代码
  • 通过编译工具把IDL文件转换成语言对应的静态库
• 编解码
  • 从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化
• 通信协议
  • 规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外，通常还会包含额外的元数据
• 网络传输
  • 通常基于成熟的网络库进行TCP/UDP传输

1.5 RPC的好处

1. 单一职责，有利于分工协作和运维开发
2. 可扩展性强，资源使用率更优
3. 故障隔离，服务的整体可靠性更高

1.6 RPC带来的问题：

• 服务宕机，对方应该如何处理？
• 在调用过程中发生网络异常，如何保证消息的可达性？
• 请求量突增导致服务无法及时处理，有哪些应对措施？

2. 分层设计

2.1 编解码层

• 生成代码
• 数据格式
  • 语言特定的格式：许多编程语言都内建了将内存对象编码为字节序列的支持
  • 文本格式：JSON、XML、CSV等文本格式，具有人类可读性
  • 二进制编码：具备跨语言和高性能等优点
• 选型
  • 兼容性：支持自动增加新的字段，而不影响老的服务，这将提高系统的灵活性
  • 通用性：支持跨平台、跨语言
  • 性能：从空间和时间两个维度来考虑，也就是编码后数据大小和编码耗费时长

2.2 协议层

• 概念
  • 特殊结束符：一个特殊字符作为每个协议单元结束的标示
  • 变长协议：以定长加不定长的部分组成，其中定长的部分需要描述不定长的内容长度
• 协议构造
• 协议解析

2.3 网络通信层

• Sockets API
• 网络库
  • 提供易用API
  • 封装底层Socket API
  • 连接管理和事件分发
• 功能
  • 协议支持：TCP、UDP和UDS等
  • 优雅退出、异常处理等
• 性能
  • 应用层buffer减少copy
  • 高性能定时器、对象池等

3. 关键指标

3.1 稳定性

• 保障策略
  • 熔断：保护调用方，防止被调用的服务出现问题而影响整个链路
  • 限流：保护被调用方，防止大流量把服务压垮
  • 超时控制：避免浪费资源在不可用节点上
• 请求成功率
  • 负载均衡
  • 重试
• 长尾请求
  • Backup Request
• 注册中间件

3.2 易用性

• 开箱即用
  • 合理的默认参数选项、丰富的文档
• 周边工具
  • 生成代码工具、脚手架工具

3.3 扩展性

• Middleware
• Option
• 编解码层
• 协议层
• 网络传输层
• 代码生成工具插件扩展

3.4 观测性

• Log、Metric、Tracing
• 内置观测性服务

3.5 高性能

• 场景
  • 单机多机
  • 单连接多连接
  • 单/多client、单/多server
  • 不同大小的请求包
  • 不同请求类型
• 目标
  • 高吞吐
  • 低延迟
• 手段
  • 连接池
  • 多路复用
  • 高性能编解码协议
  • 高性能网络库

三、个人总结

本节课介绍了有关RPC框架的内部原理、RPC 框架的基本概念，从编码层、传输协议层和网络通信层了解了其分层设计。同时学到了RPC框架的五大关键指标和字节内部RPC框架的实现情况。

四、引用参考

• RPC 框架分层设计
• RPC 关键指标分析与企业实践