分布式缓存设计，主从模式，数据集群

技术服务生活

• 主从数据库
• 搭建数据集群
• 在哪个服务写数据
• 数据交互

1.搭建Redis主从数据库

1.1主从概念

• 一个master可以拥有多个slave，一个slave又可以拥有多个slave，如此下去，形成了多级服务器集群架构
• master用来写数据，slave用来读数据。来完成网站系统高读取需求
• 通过主从配置可以实现读写分离
• master和slave都是一个redis服务实例

  

1.2 主从模式服务器设置（搭建主从）

1.2.1 配置主

• ifconfig

• 修改etc/redis/redis.conf文件

sudo vi redis.conf
bind 192.168.26.128

• 重启redis服务

redis-cli shutdown save
redis-server redis.conf

1.2.2 配置从

• 复制etc/redis/redis.conf

sudo cp redis.conf ./slave1.conf
sudo vi slave1.conf

• 编辑内容

bind 192.168.0.1
slaveof 192.168.0.1 6379
port 6378

• redis 服务

sudo redis-server slave1.conf

• 查看主从关系

REDIS-CLI -H 192.168.0.1  info Replication

1.3 数据操作

• 在master和slave分别执行info命令，查看输出信息
• 进入主客户端

redis-cli -h 192.168.0.1 -p 6379

• 进入从客户端

redis-cli -h 192.168.0.1 -p 6378

• 在master上写数据

set name zhangsan

• 在slave上读数据

get name

2.搭建Redis服务集群

• 常见的分布式服务网络拓扑

  

• redis集群
  • 软件：一台服务器的多个redis服务

- 硬件：存在多台服务器，每台服务器都启动了一个或多个redis服务

2.1 配置机器1

• 主机1的IP：192.168.43.115
• 在根目录问价下，创建conf目录

$ cd ~
$ mkdir conf

• 在conf文件夹下创建7000.conf，内容如下：

port 7000
bind 192.168.43.115
daemonize yes
pidfile 7000.pid
cluster-enabled yes
cluster-config-file 7000_node.conf
cluster-node-timeout 15000
appendonly yes

• 在conf文件夹下创建7001.conf，内容如下：

port 7001
bind 192.168.43.115
daemonize yes
pidfile 7001.pid
cluster-enabled yes
cluster-config-file 7001_node.conf
cluster-node-timeout 15000
appendonly yes

• 在conf文件夹下创建7002.conf，内容如下：

port 7002
bind 192.168.43.115
daemonize yes
pidfile 7002.pid
cluster-enabled yes
cluster-config-file 7002_node.conf
cluster-node-timeout 15000
appendonly yes

• 三个文件的配置区分在port、pidfile、cluster-config-file
• 使用配置文件启动服务

$ redis-server 7000.conf
$ redis-server 7001.conf
$ redis-server 7002.conf

• 查看进程如下图

2.2 配置机器2

• 主机2的IP：192.168.43.116
• 在根目录问价下，创建conf目录

$ cd ~
$ mkdir conf

• 在conf文件夹下创建7003.conf，内容如下：

port 7003
bind 192.168.43.116
daemonize yes
pidfile 7003.pid
cluster-enabled yes
cluster-config-file 7003_node.conf
cluster-node-timeout 15000
appendonly yes

• 在conf文件夹下创建7004.conf，内容如下：

port 7004
bind 192.168.43.116
daemonize yes
pidfile 7004.pid
cluster-enabled yes
cluster-config-file 7004_node.conf
cluster-node-timeout 15000
appendonly yes

• 在conf文件夹下创建7005.conf，内容如下：

port 7005
bind 192.168.43.116
daemonize yes
pidfile 7005.pid
cluster-enabled yes
cluster-config-file 7005_node.conf
cluster-node-timeout 15000
appendonly yes

• 三个文件的配置区分在port、pidfile、cluster-config-file
• 使用配置文件启动服务

$ redis-server 7003.conf
$ redis-server 7004.conf
$ redis-server 7005.conf

• 查看进程如下图

2.3 创建集群

• redis-trib.rb是redis的安装包，用户创建集群
• 接下来的操作在192.168.43.115进行
• 安装ruby环境，因为redis-trib.rb是用ruby开发的

sudo apt-get install ruby

• 更新gem源地址，安装最新的ruby

# 查看当前的源地址 ，我的是https://rubygems.org/
$ gem source -l 
# 更换
$ gem sources --add https://gems.ruby-china.org/ --remove https://rubygems.org/ 
# 通过gem安装redis相关依赖
$ sudo gem install redis

• 创建集群

redis-trib.rb create --replicas 1 192.168.43.115:7000 192.168.43.115:7001 192.168.43.115:7002 192.168.43.116:7003 192.168.43.116:7004 192.168.43.116:7005

2.4 数据验证

• 在主机2：192.168.43.116上连接主机1的Redis服务7002，加参数-c表示连接到集群

redis-cli -h192.168.43.115 -c -p 7002

• 写入数据

hmset user name zhangsan age 18 sex 男

• 自动跳到了7003服务器，并且写入数据成功

• 在7003可以获取数据，如果写入数据又重定向到7000（负载均衡）

• 到这里Redis集群就搭建完了。。。

3. 在哪个服务器上写数据：CRC16

• CRC校验：循环冗余校验码（CRC）简称循环码，是一种常用的、具有检错、纠错能力的校验码，在早期的通信中运用广泛。 每一个二进制的数字都可以对影成0和1的组合。二进制1010111对应的CRC多项式为x6+x4+x2+x+1，二进制101111对应的CRC多项式为x5+x3+x2+x+1。(数字为指数幂) CRC-16类比，8005对应的CRC-16为 x16+x15+x2+1
• redis-cluster.rb搭建Redis集群，在设计的时候，就考虑了去中心化，去中间件，也就是说，集群中的每个节点都是平等的关系，都是对等的，每个节点都保存了各自的数据和整个集群的状态。每个节点都和其他所有节点连接，而且这些连接保持活跃，这样就保证了我们只需要连接集群中的任意一个节点，就可以获取到其他节点的数据。
• Redis集群没有并使⽤传统的⼀致性哈希来分配数据，⽽是采⽤另外⼀种叫做哈希 槽 (hash slot)的⽅式来分配的。redis cluster 默认分配了 16384 个slot，当我们 set⼀个key 时，会⽤CRC16算法来取模得到所属的slot，然后将这个key 分到哈 希槽区间的节点上，具体算法就是：CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候，直接跳转到了7000端⼝的节点
• Redis 集群会把数据存在⼀个 master 节点，然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时，也根据⼀致性哈希算法到对应的 master 节 点获取数据。只有当⼀个master 挂掉之后，才会启动⼀个对应的 salve 节点，充 当 master
• 需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存 活的主节点数⼩于总节点数的⼀半时，整个集群就⽆法提供服务了

def crc16(x, invert):
    """
    CRC校验
    调用参数：crc16('03060007', True)
    """
    a = 0xFFFF
    b = 0xA001
    for byte in x:
        a ^= ord(byte)
        for i in range(8):
            last = a % 2
            a >>= 1
            if last == 1:
                a ^= b
    s = hex(a).upper()

    return s[4:6] + s[2:4] if invert == True else s[2:4] + s[4:6]
    // '03060007': [0x03, 0x06, 0x00, 0x07, 0xD7, 0x31],

4. python交互

• 安装 redis-py-cluster

$ pip install redis-py-cluster

demo.py

from rediscluster import *
if __name__ == '__main__':
  try:
    # 构建所有的节点，Redis会使⽤CRC16算法，将键和值写到某个节点上
    startup_nodes = [
        {'host': '192.168.43.115', 'port': '7000'},
        {'host': '192.168.26.116', 'port': '7003'},
    ]
    # 构建StrictRedisCluster对象
    src=StrictRedisCluster(startup_nodes=startup_nodes)
    # 设置键为name、值为itheima的数据
    result=src.set('name','zhangsan')
    print(result)
    # 获取键为name
    name = src.get('name')
    print(name)
  except Exception as e:
    print(e)