RPC框架分层 | 青训营笔记

73 阅读4分钟

这是我参与[第五届青训营]伴学笔记创作活动的第14天

本地函数调用

func main(){
	var a = 2
	var b = 3
	result := calculate(a, b)
	fmt.Println(result)
	return
}

func calculate(x, y int) {
	z := x*y
	return z
}
//本地调用
//将z的值压栈,然后从calculate返回
//从栈中取出z返回值,并赋值给result

远程函数调用

  1. 函数映射(如何告诉 每个函数都有一个专属id)
  2. 数据转换成字节流(不同的进程,需要转换成字节流,再转换成自己可以接收的进程)
  3. 网络传输

RPC好处

  1. 单一职责,有利于分工协作和运维开发
  2. 可扩展性强,资源使用率更优
  3. 故障隔离,服务的整体可靠性更高

2023-02-10.png

Client和Server都依赖同一份IDL文件,生成不同语言的CodeGen

保障策略:

  • 熔断:保护调用方,防止被调用的服务出现问题而影响到整个链路
  • 限流:保护被调用方,防止大流量把服务压垮
  • 超时控制:避免浪费资源在不可用节点上

具体说明:

  • 熔断:服务A调用服务B,服务B需要调用服务C,这时候服务C响应超时了,由于服务B依赖于服务C,C超时导致B的业务逻辑一直等待,这时候A又在不停地调用B,B可能就会因为堆积大量的请求而导致服务宕机。
  • 限流:当调用段发送请求过来时,服务端在执行业务逻辑前先检查限流逻辑,如果发现访问量过大并且超出了限流条件,就让服务端直接降级处理或返回给调用方一个限流异常。
  • 超时:当下游的服务因为某种原因响应过慢,下游服务主动停掉一些不太重要的业务,释放出服务器资源,避免资源浪费。

请求成功率:

重试有放大故障的风险:

首先,重试会加大直接下游的负载,假设A服务调用B服务,重试次数为r(包括首次请求),当B高负载时,很可能调用不成功,这时A调用失败,重试,B服务的被调用量会快速增大,最快情况会放大r倍,不仅不能请求成功,反而会导致B的负载继续升高,甚至宕机。

所以防止重试风暴,限制单点重试和限制链路重试。

如图所示:

image.png

长尾请求:

长尾请求一般是指明显高于均值的那部分占比较小的请求

这里先不过多解释。

注册中间件:

image.png

易用性

  • 开箱即用:合理的默认参数选项 + 丰富的文档
  • 周边工具:生成代码工具 + 脚手架工具

扩展性

  • Middleware
  • Option
  • 编解码层
  • 协议层
  • 网络传输层
  • 代码生成工具插件扩展

观测性

  • Log、Metric、Tracing
  • 内置观测性服务

高性能

image.png


Kitex

KiteX 是字节跳动框架组研发的下一代高性能、强可扩展性的 Go RPC 框架。

image.png

自研网络库-Netpoll

背景:

  • 原生库无法感知连接状态:在使用连接池时,池中存在失效连接,影响连接池的复用;
  • 原生库存在goroutine暴涨的风险:一个连接一个goroutine的模式,由于连接利用率低下,存在大量goroutine占用调度开销,影响性能;

Netpoll:

  • 解决无法感知连接状态问题:引入epoll主动监听机制,感知连接状态;
  • 建立goroutine池,复用goroutine;
  • 引入Nocopy Buffer,向上提供NoCopy的调用接口,编解码层面零拷贝;

扩展性设计

image.png

性能优化

  • 调度优化
  • LinkBuffer
  • Pool
  • CodeGen
  • JIT

合并部署

image.png

协议构造:

image.png

⭐解释说明:

  • LENGTH:32bit包括数据包的字节大小,不包含LENGTH自身长度
  • HEADER MAGIC:16bits值为0x1000,用于标识协议版本信息,协议解析的时候可以快速校验
  • FLAGS:16bits,为预留字段暂未使用,默认值为0x0000
  • SEQUENCE NUMBER:32bits,表示数据包的seqID,用于多路复用,最好确保单个连接内递增
  • HEADER SIZE:16bits,等于头部长度字节数 / 4,头部长度计算从第14个字节开始,一直到PAYLOAD前(header的最大长度为64K)
  • PROTOCOL ID:uin8编码,编解码方式,有Binary和Compact两种
  • NUM TRANSFORMS:uint8编码,表示TRANSFORM个数
  • TRANSFORM ID:uint8编码,表示压缩方式,有zlib和snappy等方式
  • INFO ID:uint8编码,用于传递一些定制的meta信息
  • PAYLOAD:消息体