一、前言
消息队列:
消息队列,简称为MQ(Message Queue),是一个保存消息的容器,本质上是一个队列。队列是一种先进先出的数据结构,我们可以简单理解为:把要传输的数据放在队列中。
我们一般把消息队列作为应用间的通信方式,消息发送后可以立即返回,由消息系统来确保消息的可靠传递。消息发布者只负责把消息发布到 MQ 中,消息使用者只管从 MQ 中取消息,双方都不知道对方的存在,也不用管对方是如何处理。
为什么要用消息队列?
- 解耦,将各个应用解耦,只需从消息中订阅,防止一处变动多处跟随修改
- 异步,发送接收双方不必同时在线,加快响应速度
- 削峰,并发量高峰期的时候,可以从消息队列中稍后读取消息,不会造成系统崩溃
消息队列缺点:
- 可用性降低:系统外部依赖变多,容易崩溃
- 复杂性提高:需要考虑消息的一致性问题、可靠传输问题、不被重复消费等问题
二、RabbitMQ 简介
RabbitMQ是一套开源的消息队列服务,基于 AMQP 的开源实现,由 Erlang 写成。
AMQP :Advanced Message Queue,高级消息队列协议。它是应用层协议的一个开放标准,为面向消息的中间件设计,基于此协议的客户端与消息中间件可传递消息,并不受产品、开发语言等条件的限制。
通常消息队列服务有三个概念: 发消息者、消息队列、收消息者。
RabbitMQ 在这个基本概念之上, 多做了一层, 在发消息者和队列之间, 加入了交换器 (Exchange)。这样发消息者和消息队列就没有直接联系,转而变成发消息者把消息发给交换器,交换器根据调度策略再把消息转发给消息队列。
RabbitMQ 有如下这些特点:
- 可靠性(Reliability)
RabbitMQ 使用多种机制来保证可靠性,如持久化、传输确认、发布确认。 - 灵活的路由(Flexible Routing)
在消息进入队列之前,通过 Exchange 来分配路由消息。对于典型的路由功能,RabbitMQ 已经提供了一些内置的 Exchange 来实现。针对更复杂的路由功能,可以将多个 Exchange 绑定在一起,也通过插件机制实现自己的 Exchange 。 - 消息集群(Clustering)
在相同局域网中的多个RabbitMQ服务器可以聚合在一起,作为一个独立的逻辑代理来使用。 - 高可用(Highly Available Queues)
队列可以在集群中的机器上进行镜像,使得在部分节点出问题的情况下队列仍然可用。 - 多协议(Multi-protocol)
RabbitMQ 支持多种消息队列协议,比如 STOMP、MQTT 等等。 - 多语言客户端(Many Clients)
RabbitMQ 几乎支持所有常用语言,比如 Java、.NET、Ruby 等等。 - 可视化管理工具(Management UI)
RabbitMQ 提供了一个易用的用户界面,使得用户可以监控和管理消息代理的每一个环节。 - 跟踪机制(Tracing)
如果你的消息系统有异常行为,RabbitMQ还提供了追踪的支持,让你能够发现问题所在。 - 插件机制(Plugin System)
RabbitMQ附带了各种各样的插件来对自己进行扩展。你甚至也可以写自己的插件来使用。
RabbitMQ 中的一些基本概念:
- Channel:信道,多路复用连接中的一条独立的双向数据流通道。信道是建立在真实的TCP连接内的虚拟连接,AMQP 命令都是通过信道发出去的,不管是发布消息、订阅队列还是接收消息,都是通过信道完成。因为对于操作系统来说建立和销毁 TCP 都是非常昂贵的开销,所以引入了信道的概念,以复用一条 TCP 连接。
- Producer:消息的生产者
- Consumer:消息的消费者
- Message:消息是不具名的,它由消息头和消息体组成。消息体是不透明的,而消息头则由一系列的可选属性组成,这些属性包括routing-key(路由键)、priority(相对于其他消息的优先权)、delivery-mode(指出该消息可能需要持久性存储)等。
- Queue:消息队列,一个消息可投入一个或多个队列
- Exchange:交换器,用来接收生产者发送的消息并将这些消息路由给服务器中的队列
- Binding:绑定,用于消息队列和交换器之间的关联。一个绑定就是基于路由键将交换器和消息队列连接起来的路由规则,所以可以将交换器理解成一个由绑定构成的路由表
- Broker:消息队列服务器实体
Exchange 类型:
Exchange在收到生产者发送的消息时,会按照不同的策略进行分发,一共有4种:
- Direct(路由模式):路由键必须与队列的Binding Key完全匹配,交换器才将消息发到对应的队列中
- Fanout (订阅模式|广播模式):把所有发送到该交换器的消息路由到所有与该交换器绑定的消息队列中
- Topic (通配符模式):正则模糊匹配
- Headers(键值对模式):通过消息头的Headers属性来进行匹配转发的,类似HTTP请求的Headers
三、安装
安装 RabbitMQ 之前要安装 Erlang,可以自行去官网下载安装。
window系统:
使用 chocolatey 安装:
choco install rabbitmq
或者通过安装程序安装:
mac系统:
通过Homebrew安装:
brew install rabbitmq
linux系统:
使用yum安装:
先更新yum包信息:
yum update -y
yum -q makecache -y --disablerepo='*' --enablerepo='rabbitmq_erlang' --enablerepo='rabbitmq_server'
下载依赖:
yum install socat logrotate -y
最后安装erlang和rabbitmq:
yum install --repo rabbitmq_erlang --repo rabbitmq_server erlang rabbitmq-server -y
使用docker安装:
docker pull rabbitmq:management
docker run -d --hostname my-rabbit --name some-rabbit rabbitmq:3
- --hostname 指定容器主机名称
- --name 指定容器名称
- -d 后台运行容器
四、使用
找到安装后的 RabbitMQ 所在目录下的 sbin 目录,在该目录下执行rabbitmq 相应的命令即可。
启动:
./sbin/rabbitmq-server
后台启动:
./sbin/rabbitmq-server -detached
查询服务器状态:
./sbin/rabbitmqctl status
关闭节点:
./sbin/rabbitmqctl stop
关闭 RabbitMQ 应用程序:
./sbin/rabbitmqctl stop_app
启动 RabbitMQ 应用程序:
./sbin/rabbitmqctl start_app
重置 RabbitMQ 节点:
./sbin/rabbitmqctl reset
查看已声明的队列:
./sbin/rabbitmqctl list_queues
查看交换器:
./sbin/rabbitmqctl list_exchanges
查看绑定:
./sbin/rabbitmqctl list_bindings
五、python实战
上面我们已经安装好了rabbitmq的服务端,要开始使用,我们还要针对不同的语言安装不同的客户端,在python中一般推荐使用 pika。Pika 是 AMQP 0-9-1 协议的纯 Python 实现。
pip install pika
发送:
建立一个到RabbitMQ服务器的连接。
#!/usr/bin/env python
import pika
connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
channel = connection.channel()
如果你想连接到其他机器的代理上,需要把代表本地的localhost改为指定的名字或IP地址。
创建一个名为"hello"的队列用来将消息投递进去。
channel.queue_declare(queue='hello')
通过交换机(exchange)将消息发送到队列:
channel.basic_publish(exchange='',
routing_key='hello',
body='Hello World!')
安全关闭连接:
connection.close()
接收:
确认队列是否存在:
channel.queue_declare(queue='hello')
定义回调函数:
def callback(ch, method, properties, body):
print(" [x] Received %r" % body)
接收消息,调用回调函数:
channel.basic_consume(callback,
queue='hello',
no_ack=True)
运行一个用来等待消息数据并且在需要的时候运行回调函数的无限循环:
print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()