深入浅出RPC

基本概念

• 本地函数调用

  • 本质是一个压栈和出栈的过程

• 远程函数调用

  • 函数映射
  • 数据转换成字节流
  • 网路传输

概念模型

由论文"Implementing Remote Procedure Calls" 提出，其中提出了RPC的过程由5中模型构成

• User
• User-Stub
• RPC-Runtime
• Server-Stub
• Server

一次RPC的完成过程

• LDL(Interface description language)文件

  • 通过一种中立的方式来描述接口，使得在不同的平台上运行的对象和不同语言编写的程序可以相互通信

• 生成代码

  • 通过编译器工具吧LDL文件转换成语言对应的静态库

• 编解码

  • 序列化和反序列化

• 通信协议

  • 规范数据在网络中传输内容和格式

• 网络传输

  • 基于TCP/UDP传输

RPC好处

0. 单一职责，有利于分工写作和运维开发
1. 可扩展性强，资源使用率更优
2. 故障隔离，服务的整体可靠性更高

RPC带来的问题

• 服务宕机，如何处理？
• 在调用过程中，如何保证消息可达性？
• 请求量突增导致服务无法及时处理，有哪些应该措施？

分层设计

• 编解码层
• 协议层
• 通信层

编解码层

选择编解码时，要考虑到兼容性，通用性和性能等因素

数据格式：

• 语言的特定格式，如java的java.io.Serializable

• 文本格式

  • Json, XML, CSV等，具有人类可读性

• 二进制格式

  • 具有跨语言和高性能等特点，如Protobuf
  • 实现可以有多种，如TLV编码和Varint编码

协议层

网络层

提供易用的API

• 封装底层的Socket API
• 连接管理和分发

功能：

• 协议支持：tcp, udp等
• 优雅推出，异常处理等

性能：

• 应用层buffer减少copy
• 高性能定时器，对象池

关键指标

• 稳定性
• 易用性
• 扩展性
• 观测性
• 高性能

稳定性

保障策略：

• 熔断：保护调用方，防止被调用的服务出现问题而影响到整个链路
• 限流：保护被调用方，防止大流量把服务压垮
• 超时控制：避免浪费资源在不可用节点上

请求成功率：

• 负载均衡
• 重试，防止重试风暴，限制单点重试和限制链路重试

长尾请求：

• backup request

注册中间件：

高性能

目标：

• 高吞吐
• 低延迟

场景：

• 单机多机
• 单连接多连接
• 单/多 client, 单/多 server
• 不同大小的请求包
• 不同请求类型

手段：

• 连接池
• 多路复用
• 高性能编解码协议
• 高性能网络库