RPC原理与实现 | 青训营笔记

71 阅读2分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 12 天

基本概念

  • RPC需要解决的问题:
    1. 函数映射
    2. 数据转换成字节流
    3. 网络传输
  • 5个模型:
    • User
    • User-Stub
    • RPC-Runtime
    • Server-Stub
    • Server
  • 完整过程:IDL文件 -> 生成代码 -> 编解码 -> 通信协议 -> 网络传输
  • 好处:单一职责,有利于分工协作和运维开发;可扩展性强,资源使用率更优;故障隔离,服务整体可靠性更高。
  • 弊端:服务宕机;调用过程中发生网络异常;请求量突增导致服务无法即使处理 ---- RPC框架解决

分层设计

编解码层

  • 数据格式:语言特定的格式;文本格式;二进制编码(具备跨语言和高性能等优点,常见有Thrift的BinaryProtocol,Protobuf等)。
  • 二进制编码:TLV(Tag, Lenght, Value)
  • 选型:兼容性(自动增加新的字段而不影响老的服务),通用性(跨平台,跨语言),性能(空间&时间)。

协议层

  • 概念
    • 特殊结束符:一个特殊字符作为每个协议单元结束的标示
    • 变长协议:以定长加不定长的部分组成,其中定长部分需要描述不定长的内容长度

网络通信层

  • 网络库
    • 提供易用API:封装底层Sockets API;连接管理和事件并发
    • 功能:协议支持TCP、UDP和UDS等;优雅退出、异常处理等
    • 性能:应用层buffer减少copy,高性能定时器、对象池等

关键指标

稳定性

  • 熔断:保护调用方,防止被调用的服务出现问题而影响到整个链路
  • 限流:保护被调用方,防止大流量把服务压垮
  • 超时控制:避免浪费资源在不可用节点上
  • 请求成功率:负载均衡、重试。
  • 长尾请求:Backup Request(备份请求)
  • 注册中间件

易用性

  • 开箱即用:合理的默认参数选项、丰富的文档。Suite
  • 周边工具:生成代码工具、脚手架工具。protobuf,thrift

扩展性

  • 中间件、Option、编解码层、协议层、网络传输层、代码生成工具插件扩展

观测性

  • Log,Metric,Tracing
  • 内置观测性服务

高性能

  • 目标:高吞吐、低延迟
  • 手段:连接池、多路复用、高性能编解码协议、高性能网络库。