SpringCloud Stream消息驱动

558 阅读8分钟

Spring Cloud Stream

一、消息驱动概述

1、是什么

image.png

官方定义 Spring Cloud Stream 是一个构建消息驱动微服务的框架。

应用程序通过 inputs 或者 outputs 来与 Spring Cloud Stream中binder对象交互。通过我们配置来binding(绑定) ,而 Spring Cloud Stream的binder对象负责与消息中间件交互。所以,我们只需要搞清楚如何与Spring Cloud Stream交互就可以方便使用消息驱动的方式。

通过使用Spring Integration来连接消息代理中间件以实现消息事件驱动。Spring Cloud Stream 为一些供应商的消息中间件产品提供了个性化的自动化配置实现,引用了发布-订阅、消费组、分区的三个核心概念。

目前仅支持RabbitMQ、Kafka

总结:屏蔽底层消息中间件的差异,降低切换成本,统一消息的编程模型。

官网:cloud.spring.io/spring-clou…

2、设计思想

(1)标准MQ

image.png

生产者/消费者之间靠消息媒介传递信息内容:Message

消息必须走特定的通道:消息通道MessageChannel

消息通道里的消息如何被消费呢,谁负责收发处理:消息通道MessageChannel的子接口SubscribableChannel,由MessageHandler消息处理器所订阅

(2)为什么用Cloud Stream

比方说我们用到了RabbitMQ和Kafka,由于这两个消息中间件的架构上的不同,像RabbitMQ有exchange,kafka有Topic和Partitions分区,具有差异。

①stream凭什么可以统一底层差异?

在没有绑定器这个概念的情况下,我们的SpringBoot应用要直接与消息中间件进行信息交互的时候,由于各消息中间件构建的初衷不同,它们的实现细节上会有较大的差异性。通过定义绑定器作为中间层,完美地实现了应用程序与消息中间件细节之间的隔离。通过向应用程序暴露统一的Channel通道,使得应用程序不需要再考虑各种不同的消息中间件实现。

②Binder

INPUT对应于消费者、OUTPUT对应于生产者

image.png

通过定义绑定器Binder作为中间层,实现了应用程序与消息中间件细节之间的隔离。

(3)Stream中的消息通信方式遵循了发布-订阅模式

Topic主题进行广播:在RabbitMQ就是Exchange、在Kakfa中就是Topic

3、标准流程套路

image.png

Binder:很方便的连接中间件,屏蔽差异。

Channel:通道,是队列Queue的一种抽象,在消息通讯系统中就是实现存储和转发的媒介,通过Channel对队列进行配置。

Source和Sink:简单的可理解为参照对象是Spring Cloud Stream自身,从Stream发布消息就是输出,接受消息就是输入。

4、编码API和常用注解

image.png

二、案例说明

1、RabbitMQ环境已经OK

2、工程中新建三个子模块

cloud-stream-rabbitmq-provider8801, 作为生产者进行发消息模块

cloud-stream-rabbitmq-consumer8802,作为消息接收模块

cloud-stream-rabbitmq-consumer8803 ,作为消息接收模块

三、消息驱动之生产者

1、新建Module

cloud-stream-rabbitmq-provider8801

2、POM

<dependency>
	<groupId>org.springframework.cloud</groupId>
	<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
	<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>

3、YML

server:
  port: 8801

spring:
  application:
    name: cloud-stream-provider
  cloud:
      stream:
        binders: # 在此处配置要绑定的rabbitmq的服务信息;
          defaultRabbit: # 表示定义的名称,用于于binding整合
            type: rabbit # 消息组件类型
            environment: # 设置rabbitmq的相关的环境配置
              spring:
                rabbitmq:
                  host: localhost
                  port: 5672
                  username: guest
                  password: guest
        bindings: # 服务的整合处理
          output: # 这个名字是一个通道的名称
            destination: studyExchange # 表示要使用的Exchange名称定义
            content-type: application/json # 设置消息类型,本次为json,文本则设置“text/plain”
            binder: defaultRabbit # 设置要绑定的消息服务的具体设置

eureka:
  client: # 客户端进行Eureka注册的配置
    service-url:
      defaultZone: http://localhost:7001/eureka
  instance:
    lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
    lease-expiration-duration-in-seconds: 5 # 如果现在超过了5秒的间隔(默认是90秒)
    instance-id: send-8801.com  # 在信息列表时显示主机名称
    prefer-ip-address: true     # 访问的路径变为IP地址

4、主启动类StreamMQMain8801

@SpringBootApplication
public class StreamMQMain8801{
    public static void main(String[] args){
        SpringApplication.run(StreamMQMain8801.class,args);
    }
}

5、业务类

(1)发送消息接口

public interface IMessageProvider{
    public String send() ;
}

(2)发送消息接口实现类

@EnableBinding(Source.class) // 可以理解为是一个消息的发送管道的定义
public class MessageProviderImpl implements IMessageProvider{
    @Resource
    private MessageChannel output; // 消息的发送管道

    @Override
    public String send(){
        String serial = UUID.randomUUID().toString();
        this.output.send(MessageBuilder.withPayload(serial).build()); // 创建并发送消息
        System.out.println("***serial: "+serial);
        return serial;
    }
}

(3)Controller

@RestController
public class SendMessageController{
    @Resource
    private IMessageProvider messageProvider;

    @GetMapping(value = "/sendMessage")
    public String sendMessage(){
        return messageProvider.send();
    }
}

6、测试

启动7001eureka、启动rabbitmq、启动8801

访问:http://localhost:8801/sendMessage

四、消息驱动之消费者

1、新建Module

cloud-stream-rabbitmq-consumer8802

2、POM

<dependency>
	<groupId>org.springframework.cloud</groupId>
	<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
	<groupId>org.springframework.cloud</groupId>
	<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>

3、YML

server:
  port: 8802

spring:
  application:
    name: cloud-stream-consumer
  cloud:
      stream:
        binders: # 在此处配置要绑定的rabbitmq的服务信息;
          defaultRabbit: # 表示定义的名称,用于于binding整合
            type: rabbit # 消息组件类型
            environment: # 设置rabbitmq的相关的环境配置
              spring:
                rabbitmq:
                  host: localhost
                  port: 5672
                  username: guest
                  password: guest
        bindings: # 服务的整合处理
          input: # 这个名字是一个通道的名称
            destination: studyExchange # 表示要使用的Exchange名称定义
            content-type: application/json # 设置消息类型,本次为对象json,如果是文本则设置“text/plain”
            binder: defaultRabbit # 设置要绑定的消息服务的具体设置

eureka:
  client: # 客户端进行Eureka注册的配置
    service-url:
      defaultZone: http://localhost:7001/eureka
  instance:
    lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
    lease-expiration-duration-in-seconds: 5 # 如果现在超过了5秒的间隔(默认是90秒)
    instance-id: receive-8802.com  # 在信息列表时显示主机名称
    prefer-ip-address: true     # 访问的路径变为IP地址

4、主启动类StreamMQMain8802

@SpringBootApplication
public class StreamMQMain8802{
    public static void main(String[] args){
        SpringApplication.run(StreamMQMain8802.class,args);
    }
}

5、业务类

@Component
@EnableBinding(Sink.class)
public class ReceiveMessageListenerController{
    @Value("${server.port}")
    private String serverPort;

    @StreamListener(Sink.INPUT)
    public void input(Message<String> message){
        System.out.println("消费者1号,------->接收到的消息:" + message.getPayload()+"\t port: "+serverPort);
    }
}

6、测试8801发送8802接收消息

http://localhost:8801/sendMessage

五、分组消费与持久化

1、依照8802,clone出来一份运行8803

2、启动

RabbitMQ、7001服务注册、8801消息生产、8802消息消费、8803消息消费

3、运行后有两个问题

有重复消费问题、消息持久化问题

4、消费

目前是8802/8803同时都收到了,存在重复消费问题

如何解决:分组和持久化属性group

生产实际案例:比如在如下场景中,订单系统我们做集群部署,都会从RabbitMQ中获取订单信息,那如果一个订单同时被两个服务获取到,那么就会造成数据错误,我们得避免这种情况。这时我们就可以使用Stream中的消息分组来解决。

image.png

注意在Stream中处于同一个group中的多个消费者是竞争关系,就能够保证消息只会被其中一个应用消费一次。不同组是可以全面消费的(重复消费),同一组内会发生竞争关系,只有其中一个可以消费。

5、分组

(1)原理

微服务应用放置于同一个group中,就能够保证消息只会被其中一个应用消费一次。

不同的组是可以消费的,同一个组内会发生竞争关系,只有其中一个可以消费。

(2)操作

8802/8803实现了轮询分组,每次只有一个消费者。8801模块的发的消息只能被8802或8803其中一个接收到,这样避免了重复消费。

8802/8803都变成相同组,group两个相同:atguiguA

8802、8803修改YML

input: # 这个名字是一个通道的名称,在分析具体源代码的时候会进行说明
  destination: studyExchange # 表示要使用的Exchange名称定义
  content-type: application/json # 设置消息类型,本次为对象json,如果是文本则设置“text/plain”
  binder: defaultRabbit # 设置要绑定的消息服务的具体设置
  group: atguiguA

(3)结论

同一个组的多个微服务实例,每次只会有一个拿到

6、持久化

停止8802/8803并去除掉8802的分组group: atguiguA,8801先发送4条消息到rabbitmq

先启动8802,无分组属性配置,后台没有打出来消息

再启动8803,有分组属性配置,后台打出来了MQ上的消息(四条消息都被8803接收)