Flink 配置Prometheus监控

1,467 阅读1分钟

开源GitHub github.com/ChiYaoLa/Bi…

其实 直接启动咱们的dockerenv,其实啥都配置好了,因为我已经按照下面的步骤配置过了,哈哈哈哈 如果你不愿意用我的项目和docker,那么其实你可以参考这个链接 www.jianshu.com/p/5e91a1ac2…

准备Flink软件包 首先在Flink官网下载Flink的安装包。

复制opt/flink-metrics-prometheus-1.8.1.jar 到flink的lib目录下。

配置flink.yaml

<dependency>
    <groupId>org.apache.flink</groupId>
    <artifactId>flink-metrics-prometheus_${scala.binary.version}</artifactId>
    <version>1.8.1</version>
</dependency>
metrics.reporter.promgateway.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter
metrics.reporter.promgateway.host: 10.180.210.172
metrics.reporter.promgateway.port: 9091

在我docker的flink 的opt目录下没有 flink-metrics-prometheus-1.8.1.jar image.png

在maven仓库找jar包 mvnrepository.com/artifact/or… 我的flink 是1.11

image.png 点击下载

怎么给docker传输文件呢?

Docker容器向宿主机传送文件 docker cp container_id:<docker容器内的路径> <本地保存文件的路径> 宿主机向Docker容器传送文件 docker cp 本地文件的路径 container_id:<docker容器内的路径>

怎么查看container id呢? docker ps -a

image.png

我的是

docker cp  /Users/xuliang98/Downloads/flink-metrics-prometheus_2.12-1.11.1.jar    ccbb873d5afa:/opt/flink/lib
docker cp  /Users/xuliang98/Downloads/flink-metrics-prometheus_2.12-1.11.1.jar    f13332716799:/opt/flink/lib

有了 image.png

配置flink-conf.yaml,位置 /opt/flink/conf

注意改成你自己的端口和ip 
metrics.reporter.promgateway.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter
metrics.reporter.promgateway.host: 127.0.0.1
metrics.reporter.promgateway.port: 9091

提示没有vi apt-get update apt-get install vim

prometheus 配置文件改,如果是flink这块,主要是 pushgeateway 配置文件的位置

image.png

prometheus配置文件,简单看起来就是 监听ip:port上的job的进程,以设定好频率。 咱们都配置好了,啥也不用改。 image.png

3 启动prometheus, node_exporter和pushgateway等各类服务 直接看我开源项目的 readme.txt 就好了,目前还在演进中

image.png

全部启动起来了,直接看做上角的名称:

localhost:9090 admin/admin 初次安装metrics 是空白,github.com/prometheus/… image.png

localhost:9091 admin/admin

image.png localhost:9093 admin/admin

image.png

localhost:3000 admin/admin

image.png