一文看透本质——Dubbo负载均衡与集群容错机制

161 阅读4分钟

1 Dubbo简介

Dubbo是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。

作为一个轻量级RPC框架,Dubbo的设计架构简洁清晰,主要组件包括Provider(服务提供者),Consumer(服务消费者),Registry(注册中心)三部分组成。此外还有用于服务监控的Monitor,它们之间的关系如下所示:

在一个分布式系统中,为了做到系统的高可用,即服务宕机时不影响对外正常提供服务,需要组建负载集群,当集群中某一节点没有及时返回数据时,需要有集群容错(重试)机制。

2 Dubbo负载均衡

在集群负载均衡时,Dubbo 提供了以下5种均衡策略,缺省为 random 随机调用。

Random

随机调用

Random LoadBalance

随机,按权重设置随机概率。

在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。

RoundRobin LoadBalance

轮循,按公约后的权重设置轮循比率。

存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。

LeastActive LoadBalance

最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。

使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。

ConsistentHash LoadBalance

一致性 Hash,相同参数的请求总是发到同一提供者。

当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。

3 负载均衡配置

服务端服务级别

interface="..." loadbalance="roundrobin" />;

客户端服务级别

interface="..." loadbalance="roundrobin" />

服务端方法级别

<dubbo:serviceinterface="...">

<dubbo:methodname="..." loadbalance="roundrobin"/>

dubbo:service>

客户端方法级别

<dubbo:referenceinterface="...">

<dubbo:methodname="..." loadbalance="roundrobin"/>

dubbo:reference>

4 Dubbo集群容错(重试机制)

在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 Failover 重试。

各节点关系:

这里的 Invoker 是 Provider 的一个可调用 Service 的抽象,Invoker 封装了 Provider 地址及 Service 接口信息

Directory 代表多个 Invoker,可以把它看成 List ,但与 List 不同的是,它的值可能是动态变化的,比如注册中心推送变更

Cluster 将 Directory 中的多个 Invoker 伪装成一个 Invoker,对上层透明,伪装过程包含了容错逻辑,调用失败后,重试另一个

Router 负责从多个 Invoker 中按路由规则选出子集,比如读写分离,应用隔离等

LoadBalance 负责从多个 Invoker 中选出具体的一个用于本次调用,选的过程包含了负载均衡算法,调用失败后,需要重选

5 重试模式及其特点

Failover Cluster(默认)

失败自动切换,当出现失败,重试其它服务器 [1]。通常用于读操作,但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

重试次数配置如下:

<dubbo:serviceretries="2" />

<dubbo:referenceretries="2" />

<dubbo:reference>

<dubbo:methodname="findFoo" retries="2" />

dubbo:reference>

Failfast Cluster

快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。

Failsafe Cluster

失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。

Failback Cluster

失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。

Forking Cluster

并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

Broadcast Cluster

广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

6 集群模式配置

按照以下示例在服务提供方和消费方配置集群模式

<dubbo:servicecluster="failsafe" />

<dubbo:referencecluster="failsafe" />