这是我参与「第五届青训营 」伴学笔记创作活动的第12天。
关键指标
稳定性
保障策略
- 熔断:保护调用方，防止被调用的服务出现问题而影响到整个链路
- 限流:保护被调用方，防止大流量把服务压垮
- 超时控制:避免浪费资源在不可用节点上
请求成功率
重试有放大故障的风险。
首先，重试会加大直接下游的负载。假设A服务调用B服务，重试次数设置为「(包括首次请求)，当B高负载时很可能调用不成功，这时A调用失败重试B，B服务的被调用量快速增大，最坏情况下可能放大到r倍，不仅不能请求成功，还可能导致B的负载。
防止重试风暴，限制单点重试和限制链路重试。
长尾请求
长尾请求一般是指明显高于均值的那部分占比较小的请求。业界关于延迟有一个常用的P99标准， P99单个请求响应耗时从小到大排列，顺序处于99%位置的值即为P99值，那后面这1%就可以认为是长尾请求。在较复杂的系统中，长尾延时总是会存在。造成这个的原因非常多，常见的有网络抖动，GC系统调度。
注册中间件
Kitex Client和Server的创建接口均采用Option模式，提供了极大的灵活性，很方便就能注入这些稳定性策略。
易用性
- 开箱即用
- 周边工具：生成代码工具、脚手架工具
扩展性
- Middleware
- Option
- 编解码层
- 协议层
- 网络传输层
- 代码生成工具插件扩展
观测性
- Log,Metric, Tracing
- 内置观测性服务
高性能
这里分两个维度，高性能意味着高吞吐和低延迟，两者都很重要，甚至大部分场景下低延迟更重要。
多路复用可以大大减少了连接带来的资源消耗，并且提升了服务端性能。 调用端向服务端的一个节点发送请求，并发场景下，如果是非连接多路复用，每个请求都会持有一个连接，直到请求结束连接才会被关闭或者放入连接池复用，并发量与连接数是对等的关系。 而使用连接多路复用，所有请求都可以在一个连接上完成。
