你不知道的-Route ｜Go主题月... Route适合在需要高性能高订阅数,但是又允许消息丢失的场景下使用。(rou

Route是一个高性能的发布订阅中间件

Route适合在需要高性能高订阅数,但是又允许消息丢失的场景下使用。(route不保证消息一定送达)

$ docker run -d --name route -p 4000:4000 --restart=unless-stopped routeio/route

集群将会默认暴露出30400端口用于访问,如果不需要此端口则需要自行修改k8s.yaml文件

$ git clone https://github.com/wiqun/route.git
$ cd route
$ kubectl.exe apply -f .\k8s.yaml

更详细的安装及配置请参考: route

连接数(等同于订阅数)	TPS	CPU使用率	平均耗时(受网关的性能影响)
3000	1W1+	60~70%	100ms+
10000	1W+	70+%	300ms+

如果切换为批量操作的模式,性能将会显著提升。

这里CPU使用率不能达到100%可能是由于网关的的处理速度达不到要求导致的。

压测例子请见: route-go

Route总体可以分为三大模块,如下图:

Route层级结构.PNG

Service主要职责是处理Broker或者Swarm转发过来的请求
目前的请求类型由4种: LocalBatchTopicOp(内含Sub,Unsub),LocalQuery,BatchPubMessage
为什么要把Sub和Unsub请求放在同一个结构体呢?其实是利用Chan的特性来保证订阅操作FIFO特性(例如:先Sub后Unsub,先Unsub后Sub将会产生不同的结果)
Broker来的BatchPubMessage和Swarm来的BatchPubMessage的处理行为有些许不一样
- Broker: 会推送给所有订阅该Topic的订阅者
- Swarm: 只会推送给订阅该Topic并且 LocalSubscriberType == LocalSubscriberDirect 的订阅者
Service内部维护着一个 Topic->List 的map, 内部协程结构为1+N,1个主协程,所有map操作只能由主协程执行。N个IO协程,主要将结果写入到对应的订阅者(写入都是IO操作)
对于Subscriber接口有两个比较关键的方法,ID()标识订阅者具有唯一性,ConcurrentId()主要用于防止IO并发写入问题

Swarm主要负责集群状态的互相同步,以及新节点的发现

Swarm使用Gossip协议来进行集群状态的同步

Swarm维护着一个类CRDT状态(下面简称为state),其Proto文件为:

package crdt;


message State {
    map<uint64, TopicMap> set = 1;
}

message TopicMap {
    map<string, int64> map= 1;
}

其含义如下图:

状态抽象图.PNG

第2层的PeerName每个节点都有,在集群范围内唯一
第3层表示订阅的Topic
第4层是个int64,是TimeStamp+IsAdd(Add状态可以等同于此Topic被订阅的意思)的组合,最低位代表着IsAdd,其63位表示最后更新IsAdd的毫秒时间戳

对于某个Topic都可能出现以下状态迁移:

状态迁移图.PNG

但是myself和other的Topic状态迁移会有些许不同：

local \ remote	ADD	DEL
无	强制合并为DEL	DELTime如果还没过期则合并为DEL状态,否则则忽视
ADD	由于remote的TimeStamp不可能大于local的,所以都是忽视此变更(如果出现说明是未知错误)	强制合并为ADD
DEL	由于remote的TimeStamp不可能大于local的,所以都是忽视此变更(如果出现说明是未知错误)	取两者最新的版本(由于存在节点断线重连的情况,所以取最新版本)

特别的: 每过一段时间会对State进行扫描删除DELTime已经过期的Topic,从而将状态从DEL转为无(gc)

值得注意的是,myself区域绝大部分TopicMap状态变化只能是本节点自己更新(其他节点只是合并更新),只有一种情况除外:当本节点断线时,其他节点会强制设置myself区域的TopicMap所有item为Del状态并且DelTime时间

local \ remote	ADD	DEL
无	合并为ADD	DELTime如果还没过期则合并为DEL状态,否则则忽视
ADD	取两者最新的版本	取两者最新的版本
DEL	取两者最新的版本	取两者最新的版本

特别的: 每过一段时间会对State进行扫描删除DELTime已经过期的Topic,从而将状态从DEL转为无(gc)

本人的其他开源项目: