基础概念

• RPC 远程函数调用 函数映射 -> 数据转成字节流 -> 网络传输
• IDL(Interface description language)文件 IDL通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信
• 生成代码 通过编译器工具把DL文件转换成语言对应的静态库
• 编解码 从内存中表示到字节序列的转换称为编码，反之为解码，也常叫做序列化和反序列化
• 通信协议 规范了数据在网络中的传输内容和格式。除必须的请求/响应数据外，通常还会包含额外的元数据
• 网络传输 通常基于成熟的网络库走TCP/UDP传输
• RPC的好处
  1. 单一职责，有利于分工协作和运维开发
  2. 可扩展性强，资源使用率更优
  3. 故障隔离，服务的整体可靠性更高
• RPC带来的问题
  1. 服务宕机，对方应该如何处理？
  2. 在调用过程中发生网络异常，如何保证消息的可达性？
  3. 请求量突增导致服务无法及时处理，有哪些应对措施？

分层设计

编解码层

• 生成代码 依赖同一份IDL文件，生成不同语言的CodeGen
• 数据格式
  • 语言特定的格式 许多编程语言都内建了将内存对象编码为字节序列的支持，例如Java有java.io.Serializable
  • 文本格式 JSON、ML、CSV等文本格式，具有人类可读性，约束较差
  • 二进制编码 具备跨语言和高性能等优点，常见有Thrift的BinaryProtocol,.Protobuf等 TLV 编码：标签、长度、类型；增加了tag和lenght的开销
• 选型
  • 兼容性：支持自动增加新的字段，而不影响老的服务，这将提高系统的灵活度
  • 通用性：支持跨平台、跨语言
  • 性能：从空间和时间两个维度来考虑，也就是编码后数据大小和编码耗费时长

协议层

特殊结束符：一个特殊字符作为每个协议单元结束的标示 变长协议：以定长加不定长的部分组成，其中定长的部分需要描述不定长的内容长度

网络通信层 - Sockets API

• 网络库
  • 提供易用API 封装底层Socket AP I连接管理和事件分发
  • 功能 协议支持：tcp、udp和uds等 优雅退出、异常处理等
  • 性能 应用层buffer减少copy 高性能定时器、对象池等

性能指标

稳定性

• 保障策略
  • 熔断：保护调用方，防止被调用的服务出现问题而影响到整个链路
  • 限流：保护被调用方，防止大流量把服务压垮
  • 超时控制：避免浪费资源在不可用节点上
• 请求成功率
  • 负载均衡
  • 重试
• 长尾请求
  • Backup Request
• 注册中间件

易用性

• 开箱即用 合理的默认参数选项、丰富的文档
• 周边工具 生成代码工具、脚手架工具

扩展性

观测性

• Log、Metric、Tracing
• 内置观测性服务

高性能

• 高吞吐
• 低延迟