DevOps丨RocketMQ安装

336 阅读2分钟

一、前言

系统环境:alinux

RocketMQ版本:5.2.0

我们会部署一套 RocketMQ 最小化的单机环境,包括一个 RocketMQ Namesrv 和 Broker 服务。部署完成之后,我们会测试消息的发送与消费。下面,让我们逐步开始。

二、前置条件

需要安装如下软件:

JDK 8+
Maven 3.2.X+ (注意:dnf安装编译会有问题,请手动下载安装) git
64位操作系统,建议使用 Linux / Unix / Mac
因为我们准备直接编译 RocketMQ 源码,构建出 RocketMQ 软件包。

三、下载源码

打开 RocketMQ release_notes 页面,我们可以看到 RocketMQ 所有的发布版本。这里,我们选择最新的 RocketMQ 5.2.0 版本。点击进入该版本的发布页面后,我们可以看到两种发布版本:

一般情况下,我们可以直接使用 Binary 版本,它是 RocketMQ 已经编译好,可以直接使用的 RocketMQ 软件包。

这里,我们想编译一次 RocketMQ 源码,所以使用 Source 版本。下面,我们开始下载 RocketMQ 4.7.1 Source 源码。命令行操作如下:

# 下载
$ wget https://dist.apache.org/repos/dist/release/rocketmq/5.2.0/rocketmq-all-5.2.0-source-release.zip

# 解压
$ unzip rocketmq-all-5.2.0-source-release.zip

四、编译源码

使用 Maven 编译 RocketMQ 源码。命令行操作如下:

# 进入 RocketMQ 源码目录
$ cd rocketmq-all-5.2.0-source-release
# Maven 编译 RocketMQ ,并跳过测试。耐心等待...
$ mvn -Prelease-all -DskipTests clean install -U

编译完成,会看到成功提示.

在我们进入 distribution 目录下,就可以看到 RocketMQ 的发布包了。命令行操作如下:

# 进入 distribution 目录下
$ cd distribution/target/rocketmq-5.2.0/rocketmq-5.2.0
# 当前目录为:/usr/local/src/rocketmq-all-5.2.0-source-release/distribution/target/rocketmq-5.2.0/rocketmq-5.2.0

# 打印目录
[root@localhost rocketmq-5.2.0]# ll
总用量 40
drwxr-xr-x 2 root root    83 8  23 13:14 benchmark   # 性能基准测试
drwxr-xr-x 3 root root  4096 8  23 13:14 bin   # 执行脚本
drwxr-xr-x 6 root root   211 8  23 13:14 conf  # 配置文件
drwxr-xr-x 2 root root  4096 8  23 13:14 lib   # RocketMQ jar 包
-rw-r--r-- 1 root root 17336 8  23 13:14 LICENSE
-rw-r--r-- 1 root root  1338 8  23 13:14 NOTICE
-rw-r--r-- 1 root root  5069 8  23 13:14 README.md
[root@localhost rocketmq-5.2.0]#

五、启动 Namesrv

启动一个 RocketMQ Namesrv 服务。命令行操作如下:

$ nohup sh bin/mqnamesrv &

启动完成后,查看日志。

# 查看 Namesrv 日志。
$ tail -f ~/logs/rocketmqlogs/namesrv.log

2022-08-23 13:21:52 INFO main - The Name Server boot success. serializeType=JSON

默认情况下,Namesrv 日志文件所在地址为~/logs/rocketmqlogs/namesrv.log。如果想要自定义,可以通过conf/logback_namesrv.xml配置文件来进行修改。

六、启动 Broker

在 conf 目录下,RocketMQ 提供了多种 Broker 的配置文件:

  • broker.conf :单主,异步刷盘。
  • 2m/ :双主,异步刷盘。
  • 2m-2s-async/ :两主两从,异步复制,异步刷盘。
  • 2m-2s-sync/ :两主两从,同步复制,异步刷盘。
  • dledger/ :Dledger 集群,至少三节点。

这里,我们只启动一个 RocketMQ Broker 服务,所以使用 broker.conf 配置文件。命令行操作如下:

$ nohup sh bin/mqbroker -c conf/broker.conf  -n 127.0.0.1:9876 &
  • 通过 -c 参数,配置读取的主 Broker 配置。
  • 通过 -n 参数,设置 RocketMQ Namesrv 地址。

启动完成后,查看日志:

$ tail -f ~/logs/rocketmqlogs/broker.log

2022-08-23 14:53:53 INFO main - The broker[broker-a, 192.168.1.87:10911] boot success. serializeType=JSON and name server is 127.0.0.1:9876

注意记下 192.168.1.87:10911 后面会使用这个broker地址。

如果提示找不到上面的日志文件,应该是没启动成功。
先看这个日志:

$ tail -f nohup.out

Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000003c0000000, 17179869184, 0) failed; error='Cannot allocate memory' (errno=12)
#
# There is insufficient memory for the Java Runtime Environment to continue.
# Native memory allocation (mmap) failed to map 17179869184 bytes for committing reserved memory.
# An error report file with more information is saved as:
# /usr/local/src/rocketmq-all-4.7.1-source-release/distribution/target/rocketmq-4.7.1/rocketmq-4.7.1/hs_err_pid22092.log

应该是内存不够,RocketMQ默认用8g内存,如果你服务器的内存比较小,可以修改下bin/runbroker.sh脚本,将 Broker JVM 内存调小。如:JAVA_OPT="${JAVA_OPT} -server -Xms2g -Xmx2g -Xmn1g"
再次启动broker,可以正常启动。

默认情况下,Broker 日志文件所在地址为~/logs/rocketmqlogs/broker.log。如果想要自定义,可以通过conf/logback_broker.xml配置文件来进行修改。

至此,我们已经完成了 RocketMQ 单机部署。下面,我们开始进行下消息的发送和消费的测试。

七、测试发送消息

在发送/接收消息之前,我们需要告诉客户名称服务器的位置。RocketMQ 提供了多种方法来实现这一点。为了简单起见,我们使用环境变量NAMESRV_ADDR。通过使用 bin/tools.sh工具类,实现测试发送消息。命令行操作如下:

# 设置 Namesrv 服务器的地址
export NAMESRV_ADDR=127.0.0.1:9876

# 执行生产者 Producer 发送测试消息
sh bin/tools.sh org.apache.rocketmq.example.quickstart.Producer

如果发送成功,我们会看到大量成功的发送日志。

......
SendResult [sendStatus=SEND_OK, msgId=C0A808BC59F54DC639967497BA3403E6, offsetMsgId=C0A8015700002A9F00000000000316F4, messageQueue=MessageQueue [topic=TopicTest, brokerName=broker-a, queueId=2], queueOffset=249]
SendResult [sendStatus=SEND_OK, msgId=C0A808BC59F54DC639967497BA3503E7, offsetMsgId=C0A8015700002A9F00000000000317BF, messageQueue=MessageQueue [topic=TopicTest, brokerName=broker-a, queueId=3], queueOffset=249]

发送结果为 sendStatus=SEND_OK状态,说明消息都发送成功了。

八、测试消费消息

通过使用bin/tools.sh工具类,实现测试消费消息。命令行操作如下:

# 设置 Namesrv 服务器的地址
export NAMESRV_ADDR=127.0.0.1:9876

# 执行消费者 Consumer 消费测试消息
sh bin/tools.sh org.apache.rocketmq.example.quickstart.Consumer

如果消费成功,我们会看到大量成功的消费日志。

ConsumeMessageThread_3 Receive New Messages: [MessageExt [brokerName=broker-a, queueId=3, storeSize=203, queueOffset=749, sysFlag=0, bornTimestamp=1661239759930, bornHost=/192.168.1.87:46058, storeTimestamp=1661239759930, storeHost=/192.168.1.87:10911, msgId=C0A8015700002A9F0000000000094808, commitLogOffset=608264, bodyCRC=1359908749, reconsumeTimes=0, preparedTransactionOffset=0, toString()=Message{topic='TopicTest', flag=0, properties={MIN_OFFSET=0, MAX_OFFSET=750, CONSUME_START_TIME=1661239759931, UNIQ_KEY=C0A808BC5CC04DC63996749EBC3A03E6, CLUSTER=DefaultCluster, WAIT=true, TAGS=TagA}, body=[72, 101, 108, 108, 111, 32, 82, 111, 99, 107, 101, 116, 77, 81, 32, 57, 57, 56], transactionId='null'}]]
ConsumeMessageThread_19 Receive New Messages: [MessageExt [brokerName=broker-a, queueId=0, storeSize=203, queueOffset=749, sysFlag=0, bornTimestamp=1661239759931, bornHost=/192.168.1.87:46058, storeTimestamp=1661239759931, storeHost=/192.168.1.87:10911, msgId=C0A8015700002A9F00000000000948D3, commitLogOffset=608467, bodyCRC=638172955, reconsumeTimes=0, preparedTransactionOffset=0, toString()=Message{topic='TopicTest', flag=0, properties={MIN_OFFSET=0, MAX_OFFSET=750, CONSUME_START_TIME=1661239759932, UNIQ_KEY=C0A808BC5CC04DC63996749EBC3B03E7, CLUSTER=DefaultCluster, WAIT=true, TAGS=TagA}, body=[72, 101, 108, 108, 111, 32, 82, 111, 99, 107, 101, 116, 77, 81, 32, 57, 57, 57], transactionId='null'}]]

通过ConsumeMessageThread_3ConsumeMessageThread_19线程名,我们可以看出,目前是进行并发消费消息。

九、关闭服务器

# sh bin/mqshutdown broker  //停止 broker

# sh bin/mqshutdown namesrv //停止 nameserver

关闭成功后如下:

[root@localhost rocketmq-4.7.1]# sh bin/mqshutdown broker
The mqbroker(22848) is running...
Send shutdown request to mqbroker(22848) OK

[root@localhost rocketmq-4.7.1]# sh bin/mqshutdown namesrv
The mqnamesrv(20705) is running...
Send shutdown request to mqnamesrv(20705) OK

十、常命令

上面几个启动和关闭 name server 和 broker 的就不再说了,先进入bin目录:# cd bin

  1. 查看集群情况 ./mqadmin clusterList -n 127.0.0.1:9876
  2. 查看 broker 状态 ./mqadmin brokerStatus -n 127.0.0.1:9876 -b 192.168.1.87:10911(注意换成你的 broker 地址)
  3. 查看 topic 列表 ./mqadmin topicList -n 127.0.0.1:9876
  4. 查看 topic 状态./mqadmin topicStatus -n 127.0.0.1:9876 -t MyTopic(换成你想查询的 topic)
  5. 查看 topic 路由./mqadmin topicRoute -n 127.0.0.1:9876 -t MyTopic

十一、rocketmq-dashboard 控制台

源码地址(rocketmq-dashboard), 是 RocketMQ 的图形化管理控制台,提供 Broker 集群信息查看,Topic 管理,Producer、Consumer 信息展示,消息查询等等常用功能。

虽然说,我们也可以使用 RocketMQ 提供的 CLI Admin Tool 工具,实现上述的查询与管理的功能,但是命令行的方式对操作人员的要求稍高一些。当然,在 RocketMQ Console 无法满足我们更精细化的管理的需求的时候,我们还是会使用 CLI Admin Tool 工具。

下面,让我们来搭建一个  Rocketmq-dashboard 控制台。

克隆代码

将 rocketmq-dashboard 仓库的代码,克隆到本地。操作流程如下:

# 克隆代码
$ git clone https://github.com/apache/rocketmq-dashboard.git
# 进入 Console 目录
$ cd rocketmq-dashboard-master

配置文件

如果需要自定义 Rocketmq-Dashboard 的配置,可以进入该项目下的 src/main/resources/ 目录下,进行相应的配置文件修改。例如说,设置 RocketMQ Namesrv 地址,开启 Rocketmq-Dashboard 的登录访问。

这里,我们修改 src/main/resources/application.yml 配置文件

编译源码

使用 Maven 编译 Rocketmq-Dashboard  源码。命令行操作如下:

# 编译
mvn clean package -Dmaven.test.skip=true

看到如下信息代表编译成功:

[INFO] --- spring-boot-maven-plugin:2.6.0:repackage (default) @ rocketmq-dashboard ---
[INFO] Replacing main artifact with repackaged archive
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 47.516 s
[INFO] Finished at: 2022-08-26T09:22:01+08:00
[INFO] ------------------------------------------------------------------------

启动控制台

由于是springboot项目,直接以 jar 的方式,启动控制台。注意,控制台使用8080端口。命令行操作如下:

nohup java -jar rocketmq-dashboard-1.0.1-SNAPSHOT.jar &

启动完成后,查看日志。

[2023-12-26 16:53:55.036] INFO main - No active profile set, falling back to default profiles: default
[2023-12-26 16:53:58.034] INFO main - setNameSrvAddrByProperty nameSrvAddr=127.0.0.1:9876
[2023-12-26 16:53:58.483] INFO main - Tomcat initialized with port(s): 8080 (http)
[2023-12-26 16:53:58.508] INFO main - Initializing ProtocolHandler ["http-nio-8080"]
[2023-12-26 16:53:58.509] INFO main - Starting service [Tomcat]
[2023-12-26 16:53:58.510] INFO main - Starting Servlet engine: [Apache Tomcat/9.0.55]
[2023-12-26 16:53:58.648] INFO main - Initializing Spring embedded WebApplicationContext
[2023-12-26 16:53:58.648] INFO main - Root WebApplicationContext: initialization completed in 3490 ms
[2023-12-26 16:54:00.195] INFO main - Adding welcome page: class path resource [static/index.html]
[2023-12-26 16:54:00.661] INFO main - Exposing 1 endpoint(s) beneath base path '/actuator'
[2023-12-26 16:54:00.718] INFO main - Starting ProtocolHandler ["http-nio-8080"]
[2023-12-26 16:54:00.743] INFO main - Tomcat started on port(s): 8080 (http) with context path ''
[2023-12-26 16:54:00.771] INFO main - Started App in 6.597 seconds (JVM running for 8.127)

当看到如上日志,说明 Console 控制台启动完成。

简单使用

使用浏览器,访问 http://127.0.0.1:8080/ 地址,我们就可以看到 Rocketmq-Dashboard  的界面。

十二、开机自启动

权限设置:

chmod a+x /usr/local/rocketmq/bin/mqnamesrv
chmod a+x /usr/local/rocketmq/bin/mqbroker

1、namesrv 设置

在/lib/systemd/system/目录下新建 rocketmq-namesrv.service 文件,内容如下:

[Unit]

Description=RocketMQ Namesrv
After=network.target remote-fs.target nss-lookup.target

[Service]
Type=sample
User=root
ExecStart=/usr/local/rocketmq/bin/mqnamesrv
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
Restart=0
LimitNOFILE=65536

[Install]
WantedBy=multi-user.target

2、broker 设置

在/lib/systemd/system/目录下新建 rocketmq-broker.service 文件,内容如下:

[Unit]
Description=rocketmq-broker
After=network.target

[Service]
Type=sample
User=root
ExecStart=/usr/local/rocketmq/bin/mqbroker -c /usr/local/rocketmq/conf/broker.conf -n 127.0.0.1:9876
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
Restart=0
LimitNOFILE=65536

[Install]
WantedBy=multi-user.target

3、rocketmq-dashboard 设置

在/lib/systemd/system/目录下新建 rocketmq-dashboard.service 文件,内容如下:

[Unit]
Description=rocketmq-broker
After=network.target

[Service]
Type=sample
User=root
ExecStart=/usr/bin/java -jar /usr/local/rocketmqDashboard/rocketmq-dashboard-1.0.1-SNAPSHOT.jar
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
Restart=0
LimitNOFILE=65536

[Install]
WantedBy=multi-user.target

4、开启开机自启

#重新加载服务的配置文件  
systemctl daemon-reload

#开启  
systemctl start rocketmq-broker.service  
systemctl start rocketmq-namesrv.service  
systemctl start rocketmq-dashboard.service

#停止  
systemctl stop rocketmq-broker.service  
systemctl stop rocketmq-namesrv.service  
systemctl stop rocketmq-dashboard.service

#启用开机启动  
systemctl enable rocketmq-broker.service  
systemctl enable rocketmq-namesrv.service  
systemctl enable rocketmq-dashboard.service