这是我参与「第五届青训营 」伴学笔记创作活动的第 13 天

需要解决的问题

• 函数映射
• 数据转换成字节流
• 网络传输

相关概念

IDL文件

通过一种中立的方式来描述接口，使得在不同平台上运行的对象和用不同语言编写的程序可以相互通信

生成代码

通过编译器蒋IDL转换长成语言对应的静态库

编解码

从内存中表示到字节序列的转化叫编码，反之为解码（序列化，反序列化）

通信协议

网络传输格式

网络传输

通常基于成熟的网络库走TCP/UDP

RPC优点

• 单一职责，有利于分工
• 可扩展性强。资源使用率更优
• 故障隔离，服务整体可靠性更高

问题--由RPC框架解决

• 服务宕机
• 调用过程中网络异常，如何保证消息可达性
• 请求突增导致无法提供服务

层次

编解码层

数据格式

• 编程语言自带
• 文本格式
• 二进制编码（具备跨语言和高性能等优点）

二进制编码

TLV编码

• Tag，类型（标签）
• Length，长度
• value,值 有额外内存开销（tag和length）

编码选型

• 兼容性：支持自动增加新字段，不影响老服务
• 通用性：支持跨平台、跨语言
• 性能：编码耗时和编码后数据大小

协议层

类型

• 特殊结束符：一个特殊字符作为每个协议单元结束的标志
• 变长协议：定长+变长组成，定长部分需要描述变长部分的长度

协议解析

MagicNumber->PayloadCodec->Payload

网络通信层

Sockets API

网络库

• 提供易用API
• 功能
• 性能

关键指标

稳定性

保障策略

• 熔断：保护调用方，防止被调用的服务出现问题而影响到整个链路
• 限流：保护被调用方
• 超时控制：防止在不可用节点上浪费资源

请求成功率

• 负载均衡
• 重试

长尾请求

来源：zhuanlan.zhihu.com/p/35516682

明显高于均值的那部分占比较小的请求。 业界关于延迟有一个常用的P99标准， 也就是99%的请求延迟要满足在一定耗时以内， 1%的请求会大于这个耗时， 而这1%就可以认为是长尾请求。

• Backup Request

易用性

• 开箱即用
• 周边工具

扩展性

• Middleware
• Option
• 编解码层
• 协议层
• 网络传输层
• 代码生成工具插件扩展

观测性

• Log、Metric、Tracing
• 内置观测性服务

高性能

目标

• 高吞吐
• 低延迟

手段

• 连接池
• 多路复用
• 高性能编解码协议
• 高性能网络库