深入浅出RPC框架 | 青训营笔记

方云123
62 阅读4分钟

前言

本文讲述了RPC框架，从基础概念、设计理念、关键指标和一些实践等方面进行了详细讲述。

1.RPC概念

1.基础概念

RPC（Remote Procedure Calls）是进行远程函数调用的

  • 解决的问题：函数映射、数据转换为字节流、网络传输

2.概念模型

image.png

  • Nelson发表的论文《Implementing Remote Procedure Calls》
  • 组成元素: User、 User-Stub、 RPC-Runtime、 Server-Stub、 Server

3.流程

  • IDL： 文件IDL通过一种中立的方式来描述接口，不同平台对象能进行通信
  • 生成代码：通过编译器工具把 IDL 文件转换成语言对应的静态库
  • 编解码：从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化
  • 通信协议：规范了数据在网络中的传输内容和格式
  • 网络传输： TCP/UDP 传输 image.png

4.好处

  • 单一职责，有利于分工协作和运维开发
  • 可拓展性强，资源使用率好
  • 故障隔离，服务整体可靠性高

5.问题

  • 服务宕机，接收方如何处理
  • 调用过程中发生网络异常，信息如何可达
  • 请求量突增导致服务无法及时处理

2.分层设计

1.整体框架

image.png

2.编解码层

  • 生成代码（客户端、服务端依赖同一份IDL文件，进而生成不同语言的代码）
  • 数据格式
    • 各语言特定的格式
    • 文本格式（JSON、XML、CSV等）
    • 二进制编码（跨语言、高性能）
  • 二进制编码（TLV编码，有Tag、Length、Value）
  • 选型
    • 兼容性（支持自动新增的字段，提高系统灵活性）
    • 通用性（跨平台、跨语言）
    • 性能（数据大小、编码耗时）

3.协议层

  • 特殊结束字符（每个协议单元结束标识）
  • 变长协议（定长+不定长）
  • 协议构造
    • LENGTH：数据包大小，不包含自身
    • HEADER MAGIC：标识版本信息，协议解析时候快速校验
    • SEQUENCE NUMBER:表示数据包的seqID,可用于多路复用，单连接内递增
    • HEADER SIZE:头部长度,从第14个字节开始计算一直到 PAYLOAD前
    • PROTOCOL ID:编解码方式,有Binary和Compact两种
    • TRANSFORM ID:压缩方式,如zlib 和snappy
    • INFO ID: 传递一些定制的 meta 信息
    • PAYLOAD:消息体 image.png
  • 协议解析
    • 进入MagicNumber->PayloadCode再编码为Payload

4.网络通信层

  • Sockets API
    • 位置在传输层之上，应用层之下
    • 整体结构如下 image.png
  • 网络库
    • 提供易用API（封装底层Socket API；连接管理和事件分发）
    • 功能（协议支持、优雅退出、异常处理）
    • 性能（应用层Buffer减少复制；高性能定时器、对象池）

3.关键指标

1. 稳定性

  • 保障策略
    • 熔断：保护调用方，减少调用方调用次数，防止被调用的服务出现问题而影响到整个链路
    • 限流:保护被调用方,防止大流量把服务压垮
    • 超时控制:避免浪费资源在不可用节点上

以上三个措施的目的都是为了降级

  • 请求成功率：负载均衡和重试机制
  • 长尾请求：重试机制
  • 注册中间件 image.png

2. 易用性

  • 开箱即用：合理的默认参数、丰富的文档
  • 周边工具：生成代码工具、脚手架工具

3.扩展性

  • 中间件、Option、编解码层、协议层、网络传输层、工具插件

4.观测性

  • Log、Metirc、Tracing
  • 内置观测性服务

5.高性能

  • 目标：高吞吐、低延迟
  • 应用场景：单机多机、单连接多连接、单/多服务端或客户端、不同大小请求包、不同请求类型
  • 手段：连接池、多路复用、高性能编解码协议、高性能网络库

4.企业实践

1. 整体框架Kitex

image.png

  • 核心组件：Kitex Core
  • 与公司内部基础设施集成：Kitex Byted
  • 代码生成工具：Kitex Tool

2.自研网络库

  • 背景

    • 原生库无法感知连接状态（影响连接池复用）
    • 原生库存在goroutine暴涨风险

  • Netpoll

    • 解决无法感知连接状态问题：引入epoll主动监听机制，感知连接状态
    • 解决goroutine暴涨风险：建立goroutine池，复用goroutine
    • 提升性能：引入Nocopy Buffer，向上层提供NoCopy调用接口，编解码层零拷贝

3.扩展性设计

  • 支持多协议和自定义协议扩展 image.png

4.性能优化

  • 网络库优化
    • 调度优化（epoll_wait、重用goroutine）
    • LinkBuffer（读写并行无锁，支持nocopy地流式读写；高效扩缩容；Nocopy Buffer池化，减少GC）
    • Pool（引入内存池和对象池，减少GC）
  • 编解码优化
    • Codegen（预计算或预分配内存，减少内存操作次数；Thriftgo）
    • JIT（用JIT 编译技术改善用户体验；Frugal）

5.合并部署

  • 原因：微服务过微，出书和序列化开销大
  • 目的：将亲和性强的服务实例尽可能调度到同一个物理机中，RPC优化为本地IPC
  • 架构如下 image.png
  • 组成
    • 中心化的部署调度和流量控制
    • 基于共享内存的通信协议
    • 定制化的服务发现和连接池实现
    • 定制化的服务启动和监听逻辑
avatar
文章
阅读
粉丝