Elasticsearch:如何在 Ubuntu 上安装多个节点的 Elasticsearch 集群 - 8.x

1,194 阅读2分钟

Elasticsearch 是一个强大且可扩展的搜索和分析引擎,可用于索引和搜索大量数据。 Elasticsearch 通常用于集群环境中,以提高性能、提供高可用性并实现数据冗余。 在本文中,我们将讨论如何在 Ubuntu 20.04 上安装和配置具有多节点集群的 Elasticsearch 版本 8。

得益于 Elasticsearch 版本 8 的功能,现在部署 Elasticsearch 集群变得更加容易。 你可以在此处查看有关安装的官方文档。 在本文中,我们将使用 ubuntu deb 安装。 在我之前的文章 “Elasticsearch: 使用 Debian 安装包来安装 Elasticsearch 8.x” 我详述了如何使用 Debian 安装包来安装具有一个节点的集群。在今天的文章中,我来详细介绍如何在 Ubuntu 系统上安装具有三个节点的 Elasticsearch 集群。我的系统配置如下:

如上所示,我们在 Ubuntu 系统上的 IP 地址如上所示。我们可以使用如下的命令来获得当前的系统的 IP 地址:

ifconfig | grep "inet " | grep -Fv 127.0.0.1 | awk '{print $2}'


1.  $ ifconfig | grep "inet " | grep -Fv 127.0.0.1 | awk '{print $2}'
2.  192.168.0.9


如果你曾经在自己的电脑上安装过 Elasticsearch,你可以使用如下的命令把之前的安装全部删除:

remove.sh



1.  sudo apt remove elasticsearch
2.  sudo apt purge elasticsearch
3.  sudo rm -rf /var/lib/elasticsearch




1.  chmod a+x remove.sh
2.  sudo ./remove.sh


一旦之前的 Elasticsearch 都被成功地删除了,那么我们就可开始下面的安装工作了。安装 Elasticsearch 集群的简单步骤如下:

  1. 在 node-1 上安装 elasticsearch
  2. 更新 node-1 的 elasticsearch.yml
  3. 启动 elasticsearch 节点1
  4. 检查节点健康状况
  5. 在 node-2 上安装 elasticsearch
  6. 使用节点 1 中的令牌在节点 2 上运行 “elasticsearch-reconfigure-node --enrollment-token ” 命令
  7. 更新 node-2 的 elasticsearch.yml
  8. 启动 elasticsearch 节点2
  9. 检查节点数 GET _cat/nodes
  10. 在相同或不同节点上安装 Kibana
  11. 为 Kibana 创建注册令牌 elasticsearch-create-enrollment-token -s kibana
  12. 启动Kibana

安装

安装 node-1

参照官方文档,我们创建如下的安装脚本,以便在各个节点上运行:

install.sh



1.  #!/bin/bash

3.  wget -qO - https://artifacts.elastic.co/GPG-KEY-elasticsearch | sudo gpg --dearmor -o /usr/share/keyrings/elasticsearch-keyring.gpg

5.  apt-get install apt-transport-https

7.  echo "deb [signed-by=/usr/share/keyrings/elasticsearch-keyring.gpg] https://artifacts.elastic.co/packages/8.x/apt stable main" | sudo tee /etc/apt/sources.list.d/elastic-8.x.list

9.  sudo apt-get update && sudo apt-get install elasticsearch


我们使用如下的命令来进行安装:



1.  chmod a+x install.sh
2.  sudo ./install.sh


 

在当前的 terminal 下,我们可以看到如下的输出:

安装完成后,你需要创建一个数据目录并将其所有者更改为 Elasticsearch 用户。 接下来,使用以下设置更新 Elasticsearch 配置文件:

/etc/elasticsearch/elasticsearch.yml



1.  cluster.name: elk-logs
2.  node.name: node-1
3.  network.host: 192.168.0.9
4.  discovery.seed_hosts: ["192.168.0.9"]
5.  cluster.initial_master_nodes: ["192.168.0.9"]


重新加载 systemctl 守护进程,启用 Elasticsearch 服务,并通过运行以下命令启动 Elasticsearch 服务:



1.  systemctl daemon-reload
2.  systemctl enable elasticsearch
3.  systemctl start elasticsearch




1.  systemctl daemon-reload
2.  systemctl enable elasticsearch
3.  systemctl start elasticsearch
4.  Created symlink /etc/systemd/system/multi-user.target.wants/elasticsearch.service → /lib/systemd/system/elasticsearch.service.


你可以使用以下命令检查 Elasticsearch 服务的状态:

systemctl status elasticsearch

你也可以使用如下的命令来进行查看:

service elasticsearch status

如果需要的话,我们可以使用如下的命令来重置内置 elastic 用户的密码,请运行以下命令:

/usr/share/elasticsearch/bin/elasticsearch-reset-password -i -u elastic

比你可以使用以下命令检查 Elasticsearch 集群健康状况和节点信息:



1.  curl -k -u elastic:<password> "https://localhost:9200/_cluster/health?pretty"
2.  curl -k -u elastic:<password> "https://localhost:9200/_cat/nodes?v"




1.  root@ubuntu2204:~# curl -k -u elastic:password "https://localhost:9200/_cluster/health?pretty"
2.  {
3.    "cluster_name" : "elk-logs",
4.    "status" : "green",
5.    "timed_out" : false,
6.    "number_of_nodes" : 1,
7.    "number_of_data_nodes" : 1,
8.    "active_primary_shards" : 1,
9.    "active_shards" : 1,
10.    "relocating_shards" : 0,
11.    "initializing_shards" : 0,
12.    "unassigned_shards" : 0,
13.    "delayed_unassigned_shards" : 0,
14.    "number_of_pending_tasks" : 0,
15.    "number_of_in_flight_fetch" : 0,
16.    "task_max_waiting_in_queue_millis" : 0,
17.    "active_shards_percent_as_number" : 100.0
18.  }
19.  root@ubuntu2204:~# curl -k -u elastic:password "https://localhost:9200/_cat/nodes?v"
20.  ip        heap.percent ram.percent cpu load_1m load_5m load_15m node.role   master name
21.  127.0.0.1           10          98   7    0.41    0.34     0.26 cdfhilmrstw *      ubuntu2204


从上面的输出中,我们可以看到有一个节点的集群已经运行起来了。

你需要创建一个注册令牌,以便稍后在其他节点中使用以加入现有的 Elasticsearch 集群。 运行以下命令在 Node-1 上创建注册令牌:

/usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s node

我们可以通过如下的命令来查看 Elasticsearch 的输出日志:

journalctl -u elasticsearch

如果你觉得历史日志太长不便于查看,你可以使用如下的命令来清除之前的日志:



1.  sudo journalctl --rotate
2.  sudo journalctl --vacuum-time=1s


安装 node-2

要在 node-2 上安装 Elasticsearch,我们仿照上面的步骤创建 install.sh,并在它们的机器上运行。

sudo ./install.sh

不要启动 Elasticsearch。 首先,你需要运行以下命令。 以下命令将修改证书、密钥库和 elasticsearch.yml。


安装后,你可以通过运行以下命令将 Elasticsearch 服务配置为使用你在 node-1 中创建的注册令牌。我们在 node-1 的 terminal 中打入如下的命令:

/usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s node


1.  root@ubuntu2204:~# /usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s node
2.  eyJ2ZXIiOiI4LjkuMCIsImFkciI6WyIxOTIuMTY4LjAuOTo5MjAwIl0sImZnciI6IjQ5ODRmZDM0ZGJjMTkyNGZjMGI4YmZlZjM4ZTg3NjdjNmUxMzFmNWIxYjAxZGE0MDc4MzI2N2NlODFiMjI5NzQiLCJrZXkiOiI3eGRwLVlrQkhGcVEtMlRPMU1lYTp6dk9rbjEtSFQ1dVEzR3R6MGd4bW5nIn0=


我们在 node-2 的 terminal 中打入如下的命令:

/usr/share/elasticsearch/bin/elasticsearch-reconfigure-node --enrollment-token <token-here>


1.  root@ubuntu2004:~# /usr/share/elasticsearch/bin/elasticsearch-reconfigure-node --enrollment-token eyJ2ZXIiOiI4LjkuMCIsImFkciI6WyIxOTIuMTY4LjAuOTo5MjAwIl0sImZnciI6IjQ5ODRmZDM0ZGJjMTkyNGZjMGI4YmZlZjM4ZTg3NjdjNmUxMzFmNWIxYjAxZGE0MDc4MzI2N2NlODFiMjI5NzQiLCJrZXkiOiI3eGRwLVlrQkhGcVEtMlRPMU1lYTp6dk9rbjEtSFQ1dVEzR3R6MGd4bW5nIn0=

3.  This node will be reconfigured to join an existing cluster, using the enrollment token that you provided.
4.  This operation will overwrite the existing configuration. Specifically: 
5.    - Security auto configuration will be removed from elasticsearch.yml
6.    - The [certs] config directory will be removed
7.    - Security auto configuration related secure settings will be removed from the elasticsearch.keystore
8.  Do you want to continue with the reconfiguration process [y/N]y


将你在 node-1 上生成的注册令牌粘贴到 上面的命令中, 并运行命令。 该命令将修改 node-2 中的证书和 elasticsearch.yml

 我们同时对 elasticsearch.yml 文件进行修改:



1.  cluster.name: elk-logs
2.  node.name: node-2
3.  network.host: 192.168.0.8


重新加载 systemctl 守护进程,启用 Elasticsearch 服务,并通过运行以下命令启动 Elasticsearch 服务:



1.  systemctl daemon-reload
2.  systemctl enable elasticsearch
3.  systemctl start elasticsearch


我们通过如下的命令来查看 elasticsearch 服务的状态:

service elasticsearch status

 同样地,我们使用如下的命令来查看集群的节点:

curl -k -u elastic:<password> "https://localhost:9200/_cat/nodes?v"


1.  curl -k -u elastic:-K2s_i2nsG62iphpNOvY "https://localhost:9200/_cat/nodes?v"
2.  ip          heap.percent ram.percent cpu load_1m load_5m load_15m node.role   master name
3.  192.168.0.8           20          98   9    0.09    0.16     0.17 cdfhilmrstw -      node-2
4.  192.168.0.9           12          98   5    0.10    0.17     0.18 cdfhilmrstw *      node-1


请注意在上面,我们使用的密码和之前的 node-1 中的不同,这是因为我使用了如下的命令修改了 elastic 超级用户的密码:



1.  oot@ubuntu2004:/etc/elasticsearch# /usr/share/elasticsearch/bin/elasticsearch-reset-password -u elastic
2.  This tool will reset the password of the [elastic] user to an autogenerated value.
3.  The password will be printed in the console.
4.  Please confirm that you would like to continue [y/N]y

7.  Password for the [elastic] user successfully reset.
8.  New value: -K2s_i2nsG62iphpNOvY


从上面的 node 显示结果中,我们可以看出来,已经有两个节点组成了集群。

我们按照上面的步骤,在 node-3 上进行安装。安装完毕后,我们使用同样的命令来进行查看:



1.  root@liuxgu:/etc/elasticsearch# curl -k -u elastic:-K2s_i2nsG62iphpNOvY "https://localhost:9200/_cat/nodes?v"
2.  ip          heap.percent ram.percent cpu load_1m load_5m load_15m node.role   master name
3.  192.168.0.8           17          98   7    0.19    0.21     0.18 cdfhilmrstw -      node-2
4.  192.168.0.4            4          99   3    0.50    0.53     0.32 cdfhilmrstw -      node-3
5.  192.168.0.9           15          98   5    0.11    0.19     0.18 cdfhilmrstw *      node-1


从上面的显示中,我们可以看到有三个节点的 Elasticsearch 已经安装完毕。

重新配置各个节点

添加所有节点后,删除 node-1 的 Elasticsearch 配置文件中的 “cluster.initial_master_nodes” 设置。 然后,使用主节点的 IP 或主机名将 “discovery.seed_hosts”设置添加到 node-1 的 Elasticsearch 配置文件中。

比如:

删除节点 1 上的 elasticsearch.yml 文件中的以下设置:

cluster.initial_master_nodes: ["..."]

然后,将以下设置添加到 node-1 上的 elasticsearch.yml 文件中:

discovery.seed_hosts: ["192.168.0.9:9300", "192.168.0.8:9300", "192.168.0.4:9300"]

请注意,seed_hosts 列表中的 IP 地址和端口号应与集群中符合主节点资格的节点的 IP 地址和端口号相匹配。

首次成功形成集群后,从每个节点的配置中删除 cluster.initial_master_nodes 设置。 重新启动集群或向现有集群添加新节点时不应使用此设置。

接下来,更新所有节点上的 elasticsearch.yml 文件中的 discovery.seed_hosts 设置,以包含集群中所有节点(包括该文件所在节点)的 IP 地址和端口号。

最后,创建一个示例 elasticsearch.yml 文件,其中包含集群所需的配置。 此文件应包含 cluster.name、path.data 和 path.logs 设置,以及任何其他必要的设置,例如安全和传输设置。



1.  cluster.name: elk-logs

3.  xpack.security.enabled: true
4.  xpack.security.enrollment.enabled: true
5.  xpack.security.http.ssl:
6.    enabled: true
7.    keystore.path: certs/http.p12
8.  xpack.security.transport.ssl:
9.    enabled: true
10.    verification_mode: certificate
11.    keystore.path: certs/transport.p12
12.    truststore.path: certs/transport.p12

14.  discovery.seed_hosts: ["192.168.0.9:9300", "192.168.0.8:9300", "192.168.0.4:9300"]
15.  http.host: 0.0.0.0
16.  transport.host: 0.0.0.0


不要尝试将 elasticsearch.yml 复制并粘贴到此处,因为它不起作用。 证书和密钥库需要在节点之间匹配:)。

检查 Elasticsearch 安装的操作系统级别设置也很重要。 Elasticsearch 文档提供了有关此主题的指导。

如果需要指定 node.role,可以更新 elasticsearch.yml 文件并重新启动 Elasticsearch。 node.roles 设置可用于指定节点的角色,例如数据节点或主节点。 Elasticsearch 文档提供了有关此主题的更多信息。

一旦 Elasticsearch 集群启动并运行,就可以安装并配置 Kibana 以连接到集群。 这涉及使用 elasticsearch-create-enrollment-token 命令在其中一个节点上为 Kibana 创建注册令牌,然后使用注册令牌在 Kibana 服务器上运行 kibana-setup 命令。 最后就可以启动Kibana服务了。

如果安装过程中出现任何问题,可能需要完全删除 Elasticsearch 并从头开始。 Elasticsearch 文档提供了在各种操作系统(包括基于 Debian 的系统)上删除 Elasticsearch 的说明。

安装 Kibana

我们将在 node-1 机器上安装 Kibana。我们运行如下的命令:

sudo apt remove --purge kibana

接下来,我们可以运行以下命令来安装 Kibana:

sudo apt install kibana

安装后,我们需要在其中一个节点上为 Kibana 创建注册令牌。 为此,请运行以下命令:

sudo /usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s kibana


1.  parallels@ubuntu2204:~$ sudo /usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s kibana
2.  [sudo] password for parallels: 
3.  eyJ2ZXIiOiI4LjkuMCIsImFkciI6WyIxOTIuMTY4LjAuOTo5MjAwIl0sImZnciI6Ijg2NWViYmRmMmQyNDBiMzJjMzI3NDI5MjBmZDBmOGVkMmJlZWZiODlkNzliM2QwODAyYWEwZmNlOGVlZjQ4ZjUiLCJrZXkiOiJmX0MxLVlrQlBZcnJLUkJJMWNPQjpYTzAwN081b1FES1AtWmdNWWkxXzhBIn0=


接下来,我们需要在安装的节点上运行以下命令,以使用注册令牌配置 Kibana:

sudo /usr/share/kibana/bin/kibana-setup --enrollment-token <enrollment-token>


1.  parallels@ubuntu2204:~$ sudo /usr/share/kibana/bin/kibana-setup --enrollment-token eyJ2ZXIiOiI4LjkuMCIsImFkciI6WyIxOTIuMTY4LjAuOTo5MjAwIl0sImZnciI6Ijg2NWViYmRmMmQyNDBiMzJjMzI3NDI5MjBmZDBmOGVkMmJlZWZiODlkNzliM2QwODAyYWEwZmNlOGVlZjQ4ZjUiLCJrZXkiOiJmX0MxLVlrQlBZcnJLUkJJMWNPQjpYTzAwN081b1FES1AtWmdNWWkxXzhBIn0=

3.  ✔ Kibana configured successfully.

5.  To start Kibana run:
6.    bin/kibana


将 替换为上一步中生成的注册令牌。

最后,我们可以使用以下命令在节点上启动 Kibana 服务:

sudo systemctl start kibana

这是 kibana.yml 的示例:



1.  server.host: 0.0.0.0
2.  elasticsearch.hosts: ['https://192.168.0.9:9200']
3.  logging.appenders.file.type: file
4.  logging.appenders.file.fileName: /var/log/kibana/kibana.log
5.  logging.appenders.file.layout.type: json
6.  logging.root.appenders: [default, file]
7.  pid.file: /run/kibana/kibana.pid
8.  elasticsearch.serviceAccountToken: long-token
9.  elasticsearch.ssl.certificateAuthorities: [/var/lib/kibana/ca_1692111671076.crt]
10.  xpack.fleet.outputs: [{id: fleet-default-output, name: default, is_default: true, is_default_monitoring: true, type: elasticsearch, hosts: ['https://192.168.0.9:9200'], ca_trusted_fingerprint: 865ebbdf2d240b32c32742920fd0f8ed2beefb89d79b3d0802aa0fce8eef48f5}]


我们可以在该集群的浏览器中打开 Kibana:

 

 

这样我们的 Kibana 的安装已经完成了。