RPC原理与实现|青训营笔记

35 阅读3分钟

t01b4250b9031d33f5c.jpg

这是我参与[第五届青训营]伴学笔记创作活动的第 13 天


RPC(Remote Procedure Calls)

RPC需要解决的问题

  1. 函数映射
  2. 数据转换成字节流
  3. 网络传输

概念模型

image.png

RPC完整过程

IDL (Interface description language)文件:IDL通过一种中立的方式来描述接口,使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信

生成代码:通过编译器工具把IDL文件转换成语言对应的静态库

编解码:从内存中表示到字节序列的转换称为编码,反之为解码,也常叫做序列化和反序列化

通信协议:规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外,通常还会包含额外的元数据

网络传输:通常基于成熟的网络库走TCP/UDP传输

RPC的好处

  1. 单一职责,有利于分工协作和运维开发
  2. 可扩展性强,资源使用率更优
  3. 故障隔离,服务的整体可靠性更高

RPC带来的问题

  1. 服务宕机,对方应该如何处理?
  2. 在调用过程中发生网络异常,如何保证消息的可达性?
  3. 请求量突增导致服务无法及时处理,有哪些应对措施?

分层设计

image.png

编解码层-数据格式

  • 语言特定的格式:许多编程语言都内建了将内存对象编码为字节序列的支持,例如Java有 java.io.Serializable
  • 文本格式:JSON、XML、CSV等文本格式,具有人类可读性
  • 二进制编码:具备跨语言和高性能等优点,常见有Thrift的 BinaryProtocol,Protobuf等(TLV编码)

编解码层-选择编码格式

  • 兼容性:支持自动增加新的字段,而不影响老的服务,这将提高系统的灵活度
  • 通用性:支持跨平台、跨语言
  • 性能:从空间和时间两个维度来考虑,也就是编码后数据大小和编码耗费时长

网络通信层–网络库

  • 提供易用API
    • 封装底层Socket API
    • 连接管理和事件分发
  • 功能
    • 协议支持:tcp.udp和 uds 等
    • 优雅退出、异常处理等
  • 性能
    • 应用层 buffer 减少copy
    • 高性能定时器、对象池等

关键指标

稳定性-保障策略

  • 熔断: 保护调用方,防止被调用的服务出现问题而影响到整个链路
  • 限流: 保护被调用方.防止大流量把服务压垮
  • 超时控制: 避免浪费资源在不可用节点上

稳定性-请求成功率

负载均衡、重试

稳定性-长尾请求

Backup Request,备份请求提高长尾请求的成功率

稳定性-注册中间件

通过可选的方式,选择中间件

易用性

  • 开箱即用:合理的默认参数选项、丰富的文档
  • 周边工具:生成代码工具、脚手架工具

扩展性

  • Middleware
  • Option
  • 编解码层
  • 协议层
  • 网络传输层
  • 代码生成工具插件扩展

观测性

  • Log、Metric、Tracing
  • 内置观测性服务

高性能

高吞吐、低延迟