深入浅出RPC框架 | 青训营笔记

64 阅读5分钟

这是我参与「第五届青训营 」笔记创作活动的第12天

一、本堂课重点内容:

1.基本概念

2.分层设计

3.关键指标

4.企业实践

二、详细知识点介绍:

1、本地函数调用:

image-20230220203009630

1.将a和b的值压栈 2.通过函数指针找到calculate函数,进入函数取出栈中的值2和3,将其赋予x和y 3.计算x*y,并将结果存在z 4.将z的值压栈,然后从 calculate返回 5.从栈中取出z返回值,并赋值给result

2、远程函数调用:

RPC需要解决的问题

1.函数映射 2.数据转换成字节流 3.网络传输

image-20230220203133068

3、RPC概念模型

image-20230220203221703 image-20230220203330771

IDL (Interface description language)文件

IDL通过—种中立的方式来描述接口,使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信

生成代码

通过编译器工具把IDL文件转换成语言对应的静态库

编解码

从内存中表示到字节序列的转换称为编码,反之为解码,也常叫做序列化和反序列化

通信协议

规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外,通常还会包含额外的元数据

网络传输

通常基于成熟的网络库走 TCP/UDP传输

4、RPC的好处

1.单一职责,有利于分工协作和运维开发

2.可扩展性强,资源使用率更优

3.故障隔离,服务的整体可靠性更高

image-20230220203423288

5、RPC带来的问题

1.服务宕机,对方应该如何处理?

2.在调用过程中发生网络异常,如何保证消息的可达性?

3.请求量突增导致服务无法及时处理,有哪些应对措施?

6、小结

1.本地函数调用和RPC调用的区别:函数映射、数据转成字节流、网络传输

2.RPC的概念模型: User、User-Stub、RPC-Runtime、Server-Stub、Server

3.一次PRC的完整过程,并讲解了RPC的基本概念定义

4.RPC带来好处的同时也带来了不少新的问题,将由RPC框架来解决

7、分层设计

image-20230220203702897

  1. RPC框架主要核心有三层:编解码层、协议层和网络通信层

  2. 二进制编解码的实现原理

  3. 协议的一般构造,以及框架协议解析的基本流程

  4. Socket API的调用流程,以及选型网络库时要考察的核心指标

8、关键指标

稳定性

熔断:保护调用方,防止被调用的服务出现问题而影响到整个链路

限流:保护被调用方,防止大流量把服务压垮

超时控制:避免浪费资源在不可用节点上

易用性

开箱即用:

合理的默认参数选项、丰富的文档

周边工具:

生成代码工具、脚手架工具

扩展性

Middleware

Option

编解码层

协议层

网络传输层

代码生成工具插件扩展

观测性

Log、Metric、Tracing

内置观测性服务

高性能

image-20230220204201282

总结:

1.框架通过中间件来注入各种服务治理策略,保障服务的稳定性

2.通过提供合理的默认配置和方便的命令行工具可以提升框架的易用性

3.框架应当提供丰富的扩展点,例如核心的传输层和协议层

4.观测性除了传统的Log、Metric 和Tracing 之外,内置状态暴露服务也很有必要

5.性能可以从多个层面去优化,例如选择高性能的编解码协议和网络库

9、企业实践

整体架构

image-20230220204432858

自研网络库

√原生库无法感知连接状态

在使用连接池时,池中存在失效连接,影响连接池的复用。

√原生库存在goroutine暴涨的风险

一个连接一个 goroutine 的模式,由于连接利用率低下,存在大量 goroutine占用调度开销,影响性能。

√解决无法感知连接状态问题

引入epoll主动监听机制,感知连接状态

√解决goroutine暴涨的风险

建立goroutine池,复用goroutine

√提升性能

引入Nocopy Buffer,向上层提供NoCopy的调用接口,编解码层面零拷贝

扩展性设计

image-20230220204611531

性能优化

1、调度优化

epoll_wait在调度上的控制

gopool重用goroutine降低同时运行协程数

2、LinkBuffer

读写并行无锁,支持nocopy地流式读写

高效扩缩容

Nocopy Buffer池化,减少GC

3、 Pool

引入内存池和对象池,减少GC开销

3、Codegen

预计算并预分配内存,减少内存操作次数,包括内存分配和拷贝Inline减少函数调用次数和避免不必要的反射操作等 自研了Go语言实现的Thrift IDL解析和代码生成器,支持完善的 Thrift IDL语法和语义检查,并支持了插件机制- Thriftgo

5、JIT

使用川T编译技术改善用户体验的同时带来更强的编解码性能,减轻用户维护生成代码的负担基于川T编译技术的高性能动态Thrift 编解码器– Frugal

合并部署

image-20230220204821728

三、课后个人总结:

这节课初次接触到RPC框架的原理,深入浅出的理解的RPC框架的诞生。老师从RPC的设计到好处到其产生的问题多个方面描述了RPC,受益匪浅。