大数据技术之 Zookeeper框架 | 青训营笔记

137 阅读3分钟

这是我参与「第四届青训营 」笔记创作活动的第 13 天

本篇文章我们主要说一下 大数据中的Zookeeper框架,它是一种分布式的协调服务,可以在分布式系统中共享配置,协调锁资源,提供命名服务。

Zookeeper 概述

Zookeeper 是一个开源的分布式的,为分布式应用提供协调服务的 Apache 项目。

从设计模式角度来理解,Zookeeper是一种基于观察者模式设计的分布式服务管理框架,它负责存储和管理数据,然后接受观察者的注册。一旦这些数据的状态发生了变化,Zookeeper 就负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应。

简单来讲,Zookeeper = 文件系统 + 通知机制

Zookeeper工作机制 image.png

Zookeeper特点

image.png (1)Zookeeper : 一个领导者(Leader),多个跟随者(Follower)组成的集群;

(2)集群中只要有半数以上节点存活,Zookeeper集群就能正常服务;

(3)全局数据一致:每个Server上都保存了一份相同的数据副本,Client无论连接到哪个Server,数据都是一致的;

(4)更新请求顺序进行,来自同一个Client的更新请求按其发送顺序依次执行;

(5)数据更新原子性,一次数据更新要么成功,要么失败;

(6)实时性,在一定时间范围内,Client能读到最新数据。

Zookeeper数据结构

Zookeeper数据模型结构与 Unix文件系统 类似,整体上可以看做一棵树,每个节点称作一个 ZNode。
每一个 ZNode 默认存储 1MB 的数据,每个 ZNode 都可以 通过其路径唯一标识

image.png

应用场景

Zookeeper 提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

统一命名服务

在分布式环境下,经常需要对应用/服务进行统一命名,便于识别。
例如:IP不容易记住,但是域名容易记住。

image.png

统一配置管理

(1)分布式环境下,配置文件同步尤为重要

  • 一般要求一个集群中,所有节点的配置信息是一致的,例如Kafka集群;
  • 对配置文件修改后,能够快速同步到各个节点上。

(2)配置管理可交由ZooKeeper实现。

  • 将配置信息写入ZooKeeper上的一个ZNode;
  • 各个客户端服务器监听这个Znode;
  • 一旦Znode中的数据被修改,ZooKeeper将通知各个客户端服务器。

统一集群服务

(1)分布式环境中,实时掌握每个节点的状态是必要的,可根据节点实时状态做出调整。

(2)ZooKeeper可以实现实时监控节点状态变化。将节点信息写入ZooKeeper上的一个ZNode后,Zookeeper会监听这个ZNode获取它的实时状态变化。

服务器节点动态上下线

image.png

软负载均衡

在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求

image.png