这是我参与[第五届青训营]伴学笔记创作活动的第14天
本地函数调用
func main(){
var a = 2
var b = 3
result := calculate(a, b)
fmt.Println(result)
return
}
func calculate(x, y int) {
z := x*y
return z
}
//本地调用
//将z的值压栈,然后从calculate返回
//从栈中取出z返回值,并赋值给result
远程函数调用
- 函数映射(如何告诉 每个函数都有一个专属id)
- 数据转换成字节流(不同的进程,需要转换成字节流,再转换成自己可以接收的进程)
- 网络传输
RPC好处
- 单一职责,有利于分工协作和运维开发
- 可扩展性强,资源使用率更优
- 故障隔离,服务的整体可靠性更高
Client和Server都依赖同一份IDL文件,生成不同语言的CodeGen
保障策略:
- 熔断:保护调用方,防止被调用的服务出现问题而影响到整个链路
- 限流:保护被调用方,防止大流量把服务压垮
- 超时控制:避免浪费资源在不可用节点上
具体说明:
- 熔断:服务A调用服务B,服务B需要调用服务C,这时候服务C响应超时了,由于服务B依赖于服务C,C超时导致B的业务逻辑一直等待,这时候A又在不停地调用B,B可能就会因为堆积大量的请求而导致服务宕机。
- 限流:当调用段发送请求过来时,服务端在执行业务逻辑前先检查限流逻辑,如果发现访问量过大并且超出了限流条件,就让服务端直接降级处理或返回给调用方一个限流异常。
- 超时:当下游的服务因为某种原因响应过慢,下游服务主动停掉一些不太重要的业务,释放出服务器资源,避免资源浪费。
请求成功率:
重试有放大故障的风险:
首先,重试会加大直接下游的负载,假设A服务调用B服务,重试次数为r(包括首次请求),当B高负载时,很可能调用不成功,这时A调用失败,重试,B服务的被调用量会快速增大,最快情况会放大r倍,不仅不能请求成功,反而会导致B的负载继续升高,甚至宕机。
所以防止重试风暴,限制单点重试和限制链路重试。
如图所示:
长尾请求:
长尾请求一般是指明显高于均值的那部分占比较小的请求。
这里先不过多解释。
注册中间件:
易用性
- 开箱即用:合理的默认参数选项 + 丰富的文档
- 周边工具:生成代码工具 + 脚手架工具
扩展性
- Middleware
- Option
- 编解码层
- 协议层
- 网络传输层
- 代码生成工具插件扩展
观测性
- Log、Metric、Tracing
- 内置观测性服务
高性能
Kitex
KiteX 是字节跳动框架组研发的下一代高性能、强可扩展性的 Go RPC 框架。
自研网络库-Netpoll
背景:
- 原生库无法感知连接状态:在使用连接池时,池中存在失效连接,影响连接池的复用;
- 原生库存在goroutine暴涨的风险:一个连接一个goroutine的模式,由于连接利用率低下,存在大量goroutine占用调度开销,影响性能;
Netpoll:
- 解决无法感知连接状态问题:引入epoll主动监听机制,感知连接状态;
- 建立goroutine池,复用goroutine;
- 引入Nocopy Buffer,向上提供NoCopy的调用接口,编解码层面零拷贝;
扩展性设计
性能优化
- 调度优化
- LinkBuffer
- Pool
- CodeGen
- JIT
合并部署
协议构造:
⭐解释说明:
- LENGTH:
32bit包括数据包的字节大小,不包含LENGTH自身长度- HEADER MAGIC:
16bits值为0x1000,用于标识协议版本信息,协议解析的时候可以快速校验- FLAGS:
16bits,为预留字段暂未使用,默认值为0x0000- SEQUENCE NUMBER:
32bits,表示数据包的seqID,用于多路复用,最好确保单个连接内递增- HEADER SIZE:
16bits,等于头部长度字节数 / 4,头部长度计算从第14个字节开始,一直到PAYLOAD前(header的最大长度为64K)- PROTOCOL ID:
uin8编码,编解码方式,有Binary和Compact两种- NUM TRANSFORMS:
uint8编码,表示TRANSFORM个数- TRANSFORM ID:
uint8编码,表示压缩方式,有zlib和snappy等方式- INFO ID:
uint8编码,用于传递一些定制的meta信息- PAYLOAD:消息体