这是我参与「第三届青训营 -后端场」笔记创作活动的的第10篇笔记
01 基本概念
本地函数调用
func main(){
var a = 2
var b = 3
result := calculate(a,b)
fmt.Println(result)
return
}
func calculate(x, y int){
z := x*y
return z
}
远程函数调用
PRC需要解决的问题
- 函数映射
- 数据转换成字节流
- 网络传输
PRC概念模型
PRC的过程由5个模型组成：User、User-Stub、RPC-Runtime、Server-Stub、Server
一次PRC的完整过程
IDL (Interface description language)文件
- IDL 通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信
生成代码
- 通过编译器工具把 IDL 文件转换成语言对应的静态库
编解码
- 从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化
通信协议
- 规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外，通常还会包含额外的元数据
网络传输
- 通常基于成熟的网络库走 TCP/UDP 传输
PRC的好处
- 单一职责，有利于分工协作和运维开发
- 可扩展性强，资源使用率更优
- 故障隔离，服务的整体可靠性更高
02 分层设计
Apache Thrift
编解码层
数据格式
语言特定的格式
- 许多编程语言都内建了将内存对象编码为字节序列的支持，例如Java有java.io.Serializable
文本格式
- JSON、XML、、CSV等文本格式，具有人类可读性
二进制编码
-
具备跨语言和高性能等优点，常见有Thrift的 BinaryProtocal， Protobuf等
- TLV 编码：Thrift 使用 TLV 编码
- Varint 编码：Protobuf 使用 Varint 编码
选型
兼容性
- 支持自动增加新的字段，而不影响老的服务，这将提高系统的灵活性
通用性
- 支持跨平台、跨语言
性能
- 从空间和时间两个维度来考虑，也就是编码后数据大小和编码耗费时长
协议层
概念
特殊结束符
- 一个特殊字符作为每个协议单元结束的标示
变长协议
- 以定长加不定长的部分组成，其中定长的部分需要描述不定长的内容长度
网络通信层
在实际中，通常使用封装好的网络库来作为IPC框架的网络通信层
网络库
提供易用 API
- 封装底层 Socket API
- 连接管理和事件分发
功能
- 协议支持：tcp、udp 和 uds 等
- 优雅退出、异常处理等
性能
- 应用层 buffer 减少 copy
- 高性能定时器、对象池等
03 关键指标
稳定性
1. 保障策略
- 熔断：保护调用方，防止被调用的服务出现问题而影响到整个链路
- 限流：保护被调用方，防止大流量把服务压垮
- 超时控制：避免浪费资源在不可用节点上
2. 请求成功率
负载均衡
重试
3. 长尾请求
Backup Request
4. 注册中间件
Kitex Client 和 Server 的创建接口均采用 Option 模式，提供了极大的灵活性，很方便就能注入这些稳定性策略
易用性
开箱即用
- 合理的默认参数选项、丰富的文档
周边工具
- 生成代码工具、脚手架工具
扩展性
- Middleware：middleware 会被构造成一个有序调用链逐个执行，比如服务发现、路由、负载均衡、超时控制等
- Option：作为初始化参数
- 核心层是支持扩展的：编解码、协议、网络传输层
- 代码生成工具也支持插件扩展
观测性
-
三件套：Log、Metric 和 Tracing
-
内置观测性服务，用于观察框架内部状态
- 当前环境变量
- 配置参数
- 缓存信息
- 内置 pprof 服务用于排查问题
高性能
- 连接池和多路复用：复用连接，减少频繁建联带来的开销
- 高性能编解码协议：Thrift、Protobuf、Flatbuffer 和 Cap'n Proto 等
- 高性能网络库：Netpoll 和 Netty 等
